1、创建三个centos 7虚拟机，vi /etc/sysconfig/network-scripts/ifcfg-ens33配置静态IP地址    

TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO="static"
IPADDR=172.18.160.175/172.18.160.176/172.18.160.177
NETMASK=255.255.255.0
GATEWAY=172.18.160.254
DNS1=172.18.160.254
NM_CONTROLLED=no
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
UUID=d19423f1-5855-4ce2-9dd7-1bfc75eec8e5
DEVICE=ens33
ONBOOT=yes  

 2、配置java1.8环境（在整合spring+kafka过程低于jdk1.8会有问题），下载jdk1.8解压/usr/local/java/jdk1.8.0_171，使用 vi /ect/profile 添加

export JAVA_HOME=/usr/local/java/jdk1.8.0_171
export CLASSPATH=.:$JAVA_HOME/lib.jar:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$PATH

3、分别关闭防火墙 systemctl stop firewalld.service（firewall-cmd --permanent --add-port=9092/tcp 开放指定端口）

4、下载kafka_2.11-1.1.0.tgz 版本（记住不要下载-src结尾的那是需要编译），解压在目录/java/kafka/kafka_2.11-1.1.0

5、分别修改/java/kafka/kafka_2.11-1.1.0/config/server.properties

broker.id=0/1/2
listeners=PLAINTEXT://172.18.160.175:9092  / 172.18.160.176:9092 / 172.18.160.177:9092
log.dirs=/java/kafka/logs（三台虚拟机日志统一一样的目录下面）
num.partitions=5 （分区数目设置为5）
zookeeper.connect=172.18.160.175:2181,172.18.160.176:2181,172.18.160.175:2181（目前zookeeper集群服务直接使用kafka自带的zookeeper集群）

6、修改zookeeper存放日志/java/kafka/kafka_2.11-1.1.0/config/zookeeper.properties

dataDir=/tmp/zookeeper

7、在175/176/177启动zookeeper 进去/java/kafka/kafka_2.11-1.1.0 

bin/zookeeper.service.start.sh config/zookeeper.properties

8、在175/176/177启动kafka 进去/java/kafka/kafka_2.11-1.1.0 

bin/kafka.service.start.sh config/server.properties

9、创建topic，主题名：test_topic

bash kafka-topics.sh --create --zookeeper zk地址:2181 --replication-factor 2 --partitions 6 --topic test_topic

# 解释
--replication-factor 2   #复制2份
--partitions 6 #创建6个分区
--topic #主题为 test_topic

10、查看topic分布情况

bash kafka-topics.sh --zookeeper zk地址:2181 --topic "test_topic" --describe

Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一） 概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

avatar Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

avatar Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...

avatar Kafka开源项目指南