Apache Beam 2.27.0 发布了。Beam 是一个用于定义和执行数据处理管道的统一编程模型，包括 ETL、批处理与流处理。Beam 项目重点在于数据处理的编程范式和接口定义，并不涉及具体执行引擎的实现，理想情况是基于 Beam 开发的数据处理程序可以执行在任意的分布式计算引擎上。

此版本主要更新内容如下：

Highlights

• Java 11 Containers现已随所有 Beam 版本一起发布。

• 有一个新的转换ReadAllFromBigQuery，可以在管道运行时接收多个从 BigQuery 读取数据的请求。参见PR 13170和BEAM-9650。

I/Os

• ReadFromMongoDB 现在可以与 MongoDB Atlas (Python) 一起使用（BEAM-11266）

• ReadFromMongoDB/WriteToMongoDB将屏蔽 display_data (Python) 中的密码（BEAM-11444）
• 有一个新的转换ReadAllFromBigQuery，可以在管道运行时接收多个从 BigQuery 读取数据的请求。参见PR 13170和BEAM-9650。

New Features / Improvements

• 依赖于 Hadoop 的 Beam 模块现在已经测试了与 Hadoop 3 的兼容性（BEAM-8569）。（Hive/HCatalog pending）

• 作为 Apache Beam 发行过程的一部分，现在支持发布 Java 11 SDK 容器镜像。（BEAM-8106）
• 向 Beam SQL 添加了 Cloud Bigtable Provider 扩展（BEAM-11173，BEAM-11373）
• 为 thrift data添加了一个 schema provider（BEAM-11338）
• 在 Dataflow runner 中添加了 combiner packing pipeline 优化（BEAM-10641）

Breaking Changes

• HBaseIO hbase-shaded-client 依赖项现在应该由用户提供（BEAM-9278）

• amazon-web-services2 中的--region标志已被-awsRegion替代（BEAM-11331）

更新说明：https://github.com/apache/beam/releases/tag/v2.27.0