作者：焦振清
时间：2018-10-11

Confluent监控仪表盘：
在这里插入图片描述
Oneapm仪表盘：
在这里插入图片描述

功能可用性 kafka-monitor：

  • consume-service:records-delay-ms-avg
  • consume-service:consume-error-rate
  • consume-service:records-consumed-total
  • consume-service:records-lost-total
  • consume-service:records-duplicated-total
  • produce-service:records-produced-total
  • produce-service:records-produced-rate
  • produce-service:produce-error-rate
  • produce-service:produce-availability-avg
  • zookeeper集群的状态

错误指标：

  • kafka.ActiveControllerCount
    说明：活跃的Controller数量，一个集群有且只能有一个Controller
  • kafka.OfflinePartitionsCount
    说明：没有 Leader 的 Partition 的数量.，处于这个状态的 Partition是无法读写的
  • kafka.UnderReplicatedPartitions
    说明：集群中副本处于同步失败或失效状态的分区数，UnderReplicatedPartitions的值持续大于0时，意味着集群中有Broker处于异常状态（负载不均或者资源瓶颈）
    注意：集群在执行kafka-reassign-partitions的时候，该值会大于0，属于正常情况
    参考：kafka解析之失效副本
  • kafka.FailedFetchRequestsPerSec
  • kafka.FailedProduceRequestsPerSec
  • kafka.BytesRejectedPerSec

流量指标：

  • kafka.BytesInPerSec
  • kafka.BytesOutPerSec
  • kafka.MessagesInPerSec
  • kafka.TotalFetchRequestsPerSec
  • kafka.TotalProduceRequestsPerSec

容量指标：

  • kafka.RequestHandlerAvgIdlePercent
  • kafka.NetworkProcessorAvgIdlePercent

延时指标： 暂无

管理工具：

各类指标的含义参考

# kafka
Logo
Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一） 概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

avatar Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

avatar Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...

avatar Kafka开源项目指南