KAFKA使用

 

期待您的关注

KAFKA学习笔记

 

目录

KAFKA使用

1.启动zookeeper

2.启动Kafka

3.创建topic

4.创建控制台生产者

5.创建控制台消费者

6.退出Kafka进程


 

 

 =============== 启动 Kafka ==================

 

1.启动zookeeper

 

1) 启动zookeeper  -- 需要在master、 node1、 node2 任意位置启动
 
zkServer.sh start

2) 查看ZK状态
 
zkServer.sh status
 

 

969d24bbb1e74bce8be79e83f3afc8f2.png

 

2.启动Kafka

 

kafka-server-start.sh -daemon /usr/local/soft/kafka_2.11-2.0.0/config/server.properties

 

dacabc46010646c0b7f1406743b32def.png

 

jps查看进程

 

e343f937bfdc4aafb44f1179624ac1c0.png

 

3.创建topic

 

创建topic     -- topic : 消息队列/分类, 一个topic代表一类数据
	
	
kafka-topics.sh --create --zookeeper master:2181,node1:2181,node2:2181 --replication-factor 3 --partitions 3 --topic test_topic2
    
	  
注:  任意节点运行
	    
2181   -- ZK端口号
		
--replication-factor  -- 每一个分区的副本数量
		
--partitions          -- 分区数,根据数据量设置
		
test_topic2           -- topic名称,随便起


   
查看topic描述信息
	
kafka-topics.sh --describe  --zookeeper master:2181,node1:2181,node2:2181 --topic test_topic2


   
获取所有topic
	
kafka-topics.sh --list  --zookeeper  master:2181,node1:2181,node2:2181

 

c185da27374a4b91ae6b6dcc7bcc9e37.png

 

4.创建控制台生产者

 

创建控制台生产者   -- 任意节点运行,返回 > , 等待生产(输入)数据

	
kafka-console-producer.sh --broker-list master:9092,node1:9092,node2:9092 --topic test_topic2
	    
		
( 9092   -- Kafka broker(节点)的端口号 )

 

40ea503ddb2a4610bc3dec29f2e711e1.png

 

5.创建控制台消费者

 

创建控制台消费者   -- 任意换一个节点运行 

	
kafka-console-consumer.sh --bootstrap-server master:9092,node1:9092,node2:9092 --from-beginning --topic test_topic2
        
		
( --from-beginning   从头消费,, 如果不在执行消费的新的数据 )


    
当生产者生产数据,消费者会立即消费数据(将数据打印出来)
	
边生产边消费

 

ecfe96b7e6964b209d3301fa95ceee5b.png

 

6.退出Kafka进程

 

Ctrl + C

 

c4c2f4c5925a4723802563bfe618cec7.png

 

 

Logo

Kafka开源项目指南提供详尽教程,助开发者掌握其架构、配置和使用,实现高效数据流管理和实时处理。它高性能、可扩展,适合日志收集和实时数据处理,通过持久化保障数据安全,是企业大数据生态系统的核心。

更多推荐