实时数仓分层介绍

ODS: 原始数据，日志和业务数据。可通过Kafka进行收集。DWD: 根据数据对象为单位进行分流，比如订单、页面访问等等。可存储在Kafka中。DIM: 维度数据。可存储在HBase中。DWM: 对于部分数据对象进行进一步加工，比如独立访问、跳出行为，也可以和维度进行关联，形成宽表，依旧是明细数据。DWS: 根据某个主题将多个事实数据轻度聚合，形成主题宽表。可存储在Doris、ClickHou

csdn-延

1662人浏览 · 2021-12-06 00:58:05

csdn-延 · 2021-12-06 00:58:05 发布

ODS: 原始数据，日志和业务数据。可通过Kafka进行收集。
DWD: 根据数据对象为单位进行分流，比如订单、页面访问等等。可存储在Kafka中。
DIM: 维度数据。可存储在HBase中。
DWM: 对于部分数据对象进行进一步加工，比如独立访问、跳出行为，也可以和维度进行关联，形成宽表，依旧是明细数据。
DWS: 根据某个主题将多个事实数据轻度聚合，形成主题宽表。可存储在Doris、ClickHouse、Elasticsearch中。
DM/ADS: 把Doris/ClickHouse中的数据根据可视化需进行筛选聚合。一般不存储，进行MPP计算。

Kafka开源项目指南

Kafka开源项目指南提供详尽教程，助开发者掌握其架构、配置和使用，实现高效数据流管理和实时处理。它高性能、可扩展，适合日志收集和实时数据处理，通过持久化保障数据安全，是企业大数据生态系统的核心。

更多推荐

Kafka入门（一）概述、部署与API的简单使用

Kafka概述、部署与API的简单使用

Kafka开源项目指南

基于canal和kafka同步，实现binlog同步ElasticSearch

文章目录前言elasticsearch 安装canal安装canal-adapter 安装及配置mysql 安装zk及kafaka安装查看效果注意事项前言中间件版本elasticsearch7.5.2canal1.1.4client-adapter1.1.5-alpha-1zookeeper3.4.13kafka2.6.0mysql5.7.31elasticsearch 安装{"settings"

Kafka开源项目指南

基于 Iceberg 的湖仓一体架构在 B 站的实践

背景在B站，每天都有PB级的数据注入到大数据平台，经过离线或实时的ETL建模后，提供给下游的分析、推荐及预测等场景使用。面对如此大规模的数据，如何高效低成本地满足下游数据的分析需求，一直是我们重点的工作方向。我们之前的数据处理流程基本上是这样的：采集端将客户端埋点、服务端埋点、日志、业务数据库等数据收集到HDFS、Kafka等存储系统中，然后通过Hive、Spark、Fl...