数据仓库分层DWD、DWB
时间: 2023-09-21 07:03:47 浏览: 84
DWD 和 DWB 是数据仓库中的两个重要的分层概念。
DWD,全称为 Data Warehouse Detailed (详细) 层,是数据仓库的第一层。在这一层中,数据被抽取、清洗、转换,并且根据定义好的业务规则进行验证和校验。DWD 层的主要作用是将源系统中的数据整合到数据仓库中,并进行初步的加工和处理,以确保数据的准确性和一致性。
DWB,全称为 Data Warehouse Business (商业) 层,是数据仓库的第二层。在这一层中,数据被进一步加工和汇总,以便进行更深入的商业分析和决策支持。DWB 层的主要作用是为企业提供更高级别、更具业务意义的数据视图,使得用户能够从中获取对业务有价值的信息。
简单来说,DWD 层主要关注数据的准确性和一致性,而 DWB 层则更侧重于数据的分析和应用。通过这样的分层设计,数据仓库可以更好地满足企业的需求,支持决策和业务分析。
相关问题
数据仓库ods dwd dws dwi dim uep 层
数据仓库中的各个层次可以按照数据处理的不同阶段来划分,常见的包括:
1. ODS层(Operational Data Store):用于存放从各个业务系统中提取的原始数据,也称为操作型数据存储。ODS层主要用于数据的收集、清洗、去重、转换等操作,保证数据的准确性和完整性。
2. DWD层(Data Warehouse Detail):用于存放从ODS层中提取的经过清洗和加工的详细数据,也称为明细数据层。DWD层主要用于支持数据的分析和建模,为后续的数据处理提供基础。
3. DWS层(Data Warehouse Summary):用于存放从DWD层中汇总而来的聚合数据,也称为汇总数据层。DWS层主要用于支持报表和分析需求,提高数据分析的效率。
4. DWI层(Data Warehouse Integrated):用于存放从DWS层中集成而来的数据,也称为集成数据层。DWI层主要用于数据挖掘、分析和建模,提供企业级的数据支持。
5. DIM层(Dimensional):用于建立维度模型,描述企业的业务过程和业务指标。DIM层主要用于支持OLAP(联机分析处理),提高数据分析的效率。
6. UEP层(Universal Enterprise Platform):用于构建企业级的数据集成和交换平台,实现不同系统之间的数据集成和交换。UEP层主要用于支持企业级的数据整合和管理。
综上所述,不同的数据仓库层次在不同的阶段扮演着不同的角色,共同构建了一个完整的数据仓库体系,为企业决策提供了强大的数据支持。
ods的数据到dwd层
ods的数据到dwd层的处理包括ETL过滤空值数据和实现动态分流功能。首先,需要对从Flink-CDC采集到的业务数据进行简单的过滤,将空值数据筛选掉。这样可以确保数据的准确性和完整性。其次,需要实现动态分流功能,将数据按照一定的规则进行分流,以便后续的处理和分析。具体的实现可以通过配置表来确定字段和规则,使用Flink-CDC处理配置表,将配置信息加载到程序中。然后,可以使用Phoenix作为维度数据的存储选择,处理广播数据和主流数据,并将数据写入HBase和Kafka中。这样就完成了ods层业务数据到dwd层的处理。\[1\]\[2\]\[3\]
#### 引用[.reference_title]
- *1* *2* *3* [Flink实时数仓项目—ODS层业务数据到DWD层](https://blog.csdn.net/yunweijie_cn/article/details/124123626)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]