默认配置server.conf里的核心配置项
#最大日志保留大小
log.retention.bytes=1073741824
#日志保留时间长度
log.retention.minutes=10
log.segment.delete.delay.ms=1000
#过期数据删除策略，最重要的配置
log.cleaner.enable=true
log.cleanup.policy=delete
#以上配置只对默认配置，属于全局配置，并不一定对全部topic起效

如果以上配置对你的topics不起效果，说明该topics有独立的特殊配置，用以下命令查询该topics的特殊配置（重载配置）
#localhost:2182是zookeeper的ip和端口，__consumer_offsets是要查询的topics
bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --describe
#假如结果如下：
Configs for topics:__consumer_offsets are segment.bytes=104857600,cleanup.policy=compact,compression.type=uncompressed
则说明segment.bytes、cleanup.policy、compression.type这三个配置项是针对topics的，server.conf配置log.cleanup.policy， log.segment.bytes 没有起效，如果想让该配置跟随server.conf配置，则执行以下命令，一个个删除特殊配置
bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --alter --delete-config cleanup.policy
如果想修改，则用以下命令
bin/kafka-configs.sh --zookeeper localhost:2182  --entity-type topics --entity-name __consumer_offsets --alter --delete-config cleanup.policy=delete

具体配置项参考官方文档：http://kafka.apache.org/documentation.html


然后你就会发现，日志基本被清空了！！！

# kafka
Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一） 概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

avatar Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

avatar Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...

avatar Kafka开源项目指南