以下以33环境为例

基本情况

broker地址:10.30.200.155:15386

topic:DC_REACH_DESTINATION_EVENT_NOTIFY

检查kafka

https://test-kafka.xxxkeji.cn/clusters/test33

查看是否有kafka挂了

 

例如,kafka broker为2,正常33,44 kafka数量为3, stable为2

如果数量小于既定kafka broker数说明kafka挂了,需要重启kafka

kafka.1.server status #检查

kafka.1.server start #启动

如果无上述命令,执行 history|grep kafka , 查看kafka相关启动命令

如果执行命令无法启动kafka,极有可能是内存不足或者磁盘不足

内存不足

执行top命令,看哪个应用占的比较多,能干掉的先干掉

如果磁盘不足

执行df -h ,看是哪个文件过大导致,清理出多余的磁盘空间

检查topic

1、进入test33,cd /usr /local/kafka/1/bin
2、命令行1 消费数据判定 ,检查kafka topic是否正常,注意 broker地址和topic替换成你需要确认的kafka地址和topic名字

sh kafka-console-consumer.sh --bootstrap-server 10.30.200.155:15386 --topic DC_REACH_DESTINATION_EVENT_NOTIFY --new-consumer

查看是否有消息进来

3、命令2 ,执行消费, 模拟kafka数据发送,注意 broker地址和topic替换成你需要确认的kafka地址和topic名字 

sh kafka-console-producer.sh --broker-list 10.30.200.155:15386 --topic DC_REACH_DESTINATION_EVENT_NOTIFY

命令行2,输入消息具体消息

[operadmin@test34 bin]$ sh kafka-console-producer.sh --broker-list 10.30.200.155:15386 --topic DC_REACH_DESTINATION_EVENT_NOTIFY

{"msg":"123"}

如果命令行1正常收到以下消息,说明kafka及topic正常,检查应用情况

{"msg":"123"}

3、执行以下命令,判定是否消息被同一个组的其他消费者消费

sh /usr/local/kafka/1/bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 10.30.200.155:15386  --group notify-group

[operadmin@test34 bin]$ sh /usr/local/kafka/1/bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 10.30.200.155:15386  --group notify-group --describe

GROUP                          TOPIC                          PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG             OWNER

notify-group                   NOTIFY_VOICE                   0          1582            1582            0               consumer-2_/10.26.250.190

notify-group                   NOTIFY_PUSH                    0          16319           16319           0               consumer-2_/10.26.250.190

notify-group                   EMAIL_TOPIC                    0          0               0               0               consumer-2_/10.26.250.190

判定是否10.26.250.190上部署的服务是否正确

以及该机器上是否部署了多次应用

# kafka
Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一） 概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

avatar Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

avatar Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...

avatar Kafka开源项目指南