在使用 canal 和kafka处理数据同步时canal日志提示如下异常：


java.lang.RuntimeException: java.util.concurrent.ExecutionException: org.apache.kafka.common.errors.RecordTooLargeException: The request included a message larger than the max message size the server will accept
 

原因是消息过大无法处理

 

第一步：修改 canal/conf/canal.properties配置（我在原有基础上加了一个0，可能需要更合适的数量级）
canal.mq.maxRequestSize = 10485760

第二步：修改kafka/config/producer.properties 

max.request.size=12695150

修改kafka/config/server.properties 

message.max.bytes=12695150

第三步：重启服务

# kafka
Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

cover

zookeeper+kafka群集

avatar Kafka开源项目指南
cover

zookeeper+kafka+ELK+filebeat集群

avatar Kafka开源项目指南

lua-resty-kafka 使用及安装教程

lua-resty-kafka 使用及安装教程lua-resty-kafkaLua kafka client driver for the Openresty based on the cosocket API项目地址:https://gitcode.com/gh_mirrors/lu/lua-resty-kafka 1. 项目目录结构及介绍lua-resty-kafka 的目录结构如下：...

avatar Kafka开源项目指南