修改配置文件

vim $KAFKA_HOME/config/consumer.properties 添加修改

bootstrap.servers=HK70:9092,HK69:9092,HK68:9092
group.id=hk-consumer-group
auto.offset.reset=earliest
##下面SASL加密(如不需要忽略)
sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required \
    username="test" \
    password="test123";
security.protocol=SASL_PLAINTEXT
sasl.mechanism=PLAIN

vim $KAFKA_HOME/config/producer.properties添加修改

bootstrap.servers=kafka74:9092,kafka75:9092,kafka76:9092
compression.type=none
retries=3

启动MirrorMaker

cd $KAFKA_HOME;
bin/kafka-mirror-maker.sh   --consumer.config config/consumer.properties  --producer.config config/producer.properties --num.streams --whitelist 'applog|ota.*' &

–whitelist为要同步的topic正则表达式.
kafka集群同步,从香港kafka集群服务器SASL加密,到国内kafka服务器不需要加密.

Logo

Kafka开源项目指南提供详尽教程,助开发者掌握其架构、配置和使用,实现高效数据流管理和实时处理。它高性能、可扩展,适合日志收集和实时数据处理,通过持久化保障数据安全,是企业大数据生态系统的核心。

更多推荐