Amazon Managed Streaming for Apache Kafka (Amazon MSK)
Amazon MSK 是一项完全托管服务,可让您轻松构建并运行使用 Apache Kafka 处理流数据的应用程序。Apache Kafka 是一个用于构建实时流数据管道和应用程序的开源平台。借助 Amazon MSK,您可以使用原生 Apache Kafka API 填充数据湖、将所做更改流式传入和传出数据库,并为机器学习和分析应用程序提供支持。
在生产环境中设置、扩展和管理 Apache Kafka 集群具有一定的挑战性。当您独自运行 Apache Kafka 时,您需要预置服务器,手动配置 Apache Kafka,更换发生故障的服务器,编排服务器补丁和升级,构建集群以实现高可用性,确保数据得到持久存储和保护,设置监控和警报,并仔细规划扩展事件以支持负载变化。借助 Amazon MSK,您可以在 Apache Kafka 上轻松构建并运行生产应用程序,而无需 Apache Kafka 基础设施管理技能。这意味着您可以节省管理基础设施的时间,从而有更多的时间来构建应用程序。
只需在 Amazon MSK 控制台中单击几下,您即可根据 Apache Kafka 的部署最佳实践创建具有设置和配置的高可用性 Apache Kafka 集群。Amazon MSK 会自动预置和运行 Apache Kafka 集群。Amazon MSK 持续监控集群的运行状况,并自动替换运行状况不佳的节点,而不会导致应用程序停机。此外,Amazon MSK 通过加密静态数据来保护您的 Apache Kafka 集群。
优势
完全兼容
Amazon MSK 为您运行和管理 Apache Kafka。这使您可以在 亚马逊云科技上轻松迁移和运行现有的 Apache Kafka 应用程序,而无需更改应用程序代码。通过使用 Amazon MSK,您可以保持开源兼容性,并继续使用熟悉的自定义工具和社区构建的工具,如 MirrorMaker 和 Prometheus。
完全托管
Amazon MSK 使您可以专注于创建流应用程序,而无需担心管理 Apache Kafka 环境的运营开销。Amazon MSK 为您管理 Apache Kafka 集群和 Apache ZooKeeper 节点的预置、配置及维护。Amazon MSK 还在 亚马逊云科技控制台中显示关键的 Apache Kafka 性能指标。
高度可用
Amazon MSK 创建 Apache Kafka 集群,并在一个 亚马逊云科技区域内提供多可用区复制。Amazon MSK 持续监控集群的运行状况,并自动替换发生故障的组件。
高度安全
Amazon MSK 可为您的 Apache Kafka 集群提供多级安全性,包括 VPC 网络隔离、使用 Amazon IAM 进行控制层面 API 授权、静态加密、传输中 TLS 加密。
工作原理
Apache Kafka 是一个流数据存储,它将生成流数据到其数据存储中的应用程序(生成者)与从其数据存储中使用流数据的应用程序(使用者)分离开来。组织使用 Apache Kafka 作为持续分析和响应流数据的应用程序的数据源。
只需在 Amazon MSK 控制台中单击几下,Amazon MSK 即可预置您的 Apache Kafka 集群并管理 Apache Kafka 升级,因此您始终能够使用最安全、最快的 Apache Kafka 版本。配置集群后,您的应用程序可以将数据从生成者流式传输到主题,使用者可以从主题实时读取这些数据。
开始使用 Amazon MSK
注册 亚马逊云科技并下载库和工具。
请参阅本分步指南,了解如何在 Amazon MSK 上设置 Apache Kafka 集群。
开始在 Amazon MSK 上运行您的 Apache Kafka 集群。登录 Amazon MSK 控制台。