正在使用的kafka客户端数据突然滞后了，于是我花了两天的时间对系统进行分析。

1、检查程序

前不久改过程序，添加了搜索引擎的索引目录，于是我退回原来的版本，发现数据还是滞后

2、检查kafka所在的内网

网络也是正常的

3、检查kafka的配置，发现kafka的topic的分区数据是15

根据网上的建议的提高客户端获取数据效率的方法

  1、增加分区  2、增加机器

我把分区增加到60，速度确实快的很多，但发现数据过一段时间还是滞后，后来加到120同样也是如此

4、根据kafkaManager 页面查找我对应topic目录，发现数据消费速度小于生产速度

 同时我还发现topic的groupid很多，并且无用的居多。

6、清楚groupid   

连接zk：zkCli.sh  -server  localhost:2181

进入ls /consumers

删除无用的groupid，rmr /consumers/groupid

重启客户端程序，观察消费速度明显大于生产速度

总结：无用的groupid会给zk带来负担，当groupid到一定的数量，必须清除


Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一） 概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

avatar Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

avatar Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...

avatar Kafka开源项目指南