总会遇到各种各样的需求，kafka达到最佳吞吐量的消息大小是10k，而在我们的项目中，消息有的是1k，有的是100M，最大可达400M，这种消息很少很少，但是会有，所以整套环境必须要使用1K~400M。

kafka最近的版本对消息的最大限制是2G，是足够的，这里有3个地方要配置：

  • broker
    message.max.bytes :500000000B(500M)，这是单个消息的最大值
    replica.fetch.max.bytes :512000000B(512M)，这是单个消息的最大值broker可复制的消息的最大字节数，比message.max.bytes大，否则broker会接收此消息，但无法将此消息复制出去，从而造成数据丢失，但是不能太大！！！不然复制的时候容易内存溢出
  • consumer
    fetch.message.max.bytes：500000000B(500M) 这是消费者能读取的最大消息，大于或等于message.max.bytes
  • producer
    max.request.size：500000000B(500M) 这是生产者能请求的最大消息，大于或等于message.max.bytes

kafka jvm参数调整：

  • 堆内存：kafka-server-start.sh文件的 export KAFKA_HEAP_OPTS="-Xmx6G -Xms6G"

这样基本就完了

# kafka
Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一） 概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

avatar Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

avatar Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...

avatar Kafka开源项目指南