背景:在开发的过程中,当有大批量的数据进行同时处理的业务场景。为了保证系统的稳定性和防止数据丢失。我们需要使用消息队列,进行存储消息。这里kafka不失为一种最佳的选择。

这里特别提醒一句话,kafka的版本不对一切都是白费,会出现各种问题。    

但是在使用kafka的过程中,我遇到了如下问题:

1、第一次消费数据是巨慢。大概需要40秒的时间才可以消费到。

2、当我清理了kafka中的topic和zookeeper中的数据后,突然又开始报如下异常

org.apache.kafka.common.errors.TimeoutException: Failed to update metadata after 60000 ms.

 我是用的springboot集成的kafka。我的版本分别如下:

springboot 1.5.9
spring-kafka(kafka客户端)jar包 1.1.7
kafka软件版本 kafka-2.11-2.1.1

查阅了大量的资料后,定位到是kafka的版本不对的问题。于是我调整版本如下:

springboot 1.5.10(这个其实可以不用调整)
spring-kafka(kafka客户端)jar包 1.1.7
kafka软件版本 kafka-2.11-0.11.0.0

然后,重新安装了kafka后,测试成功。问题解决!!!

顺便分享篇好文章:https://blog.csdn.net/u010454030/article/details/78714205

附kafka的下载路径https://download.csdn.net/download/qq_29281307/12055349

 

Logo

Kafka开源项目指南提供详尽教程,助开发者掌握其架构、配置和使用,实现高效数据流管理和实时处理。它高性能、可扩展,适合日志收集和实时数据处理,通过持久化保障数据安全,是企业大数据生态系统的核心。

更多推荐