Kafka 动态配置

动态配置 : 修改参数后,无需重启 Broker 就能生效

Kafka 1.1 后的 Dynamic Update Mode 列 :

  • read-only : 只有重启 Broker,才能生效
  • per-broker : 动态参数,修改后,就能生效
  • cluster-wide : 动态参数,修改后,整个集群范围内生效

动态 Broker :

  • 动态调整 Broker 端各种线程池大小,实时应对突发流量
  • 动态调整 Broker 端连接信息或安全配置信息
  • 动态更新 SSL Keystore 有效期
  • 动态调整 Broker 端 Compact 操作性能
  • 实时变更 JMX 指标收集器 (JMX Metrics Reporter)

配置保存

Kafka 将动态 Broker 参数保存在 ZooKeeper 中

  • changes : 实时监测动态参数变更的,不会保存参数值
  • topics : 保存 Kafka 主题级别参数的。虽然它们不属于动态 Broker 端参数,但其实它们也是能够动态变更的
  • users 和 clients 则是用于动态调整客户端配额(Quota)的 znode 节点。所谓配额,是指 Kafka 运维人员限制连入集群的客户端的吞吐量或者是限定它们使用的 CPU 资源

/config/brokers znode 保存动态 Broker 参数, 分两大类子节点 :

  • < default > : 保存 cluster-wide 范围的动态参数
  • broker.id : 保存特定 Broker 的 per-broker 范围参数

参数的优先级:

  • per-broker > cluster-wide > static > Kafka 默认值

持久化节点 : ephemeralOwner = 0x0 。ZooKeeper 重启,也不会丢失

在这里插入图片描述

配置

设置 cluster-wide 范围值 :

  • 指定 entity-default
bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-default --alter --add-config unclean.leader.election.enable=true

设置 per-broker 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-name 1 \
--alter --add-config unclean.leader.election.enable=false

删除 cluster-wide 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-default \
--alter --delete-config unclean.leader.election.enable

删除 per-broker 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-name 1 \
--alter --delete-config unclean.leader.election.enable

查看 cluster-wide 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-default --describe

查看 per-broker 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-name 1 --describe

动态调整参数 :

  • log.retention.ms : 修改日志留存时间
  • num.io.threads : IO 处理线程数
  • num.network.threads : 网络处理线程数
  • ssl.keystore.type , ssl.keystore.location , ssl.keystore.password , ssl.key.password : 更新 Keystore
  • num.replica.fetchers : Follower 副本拉取速度
Logo

Kafka开源项目指南提供详尽教程,助开发者掌握其架构、配置和使用,实现高效数据流管理和实时处理。它高性能、可扩展,适合日志收集和实时数据处理,通过持久化保障数据安全,是企业大数据生态系统的核心。

更多推荐