ods的数据到dwd层
时间: 2024-04-25 15:22:00 浏览: 115
ods的数据到dwd层的处理包括ETL过滤空值数据和实现动态分流功能。首先,需要对从Flink-CDC采集到的业务数据进行简单的过滤,将空值数据筛选掉。这样可以确保数据的准确性和完整性。其次,需要实现动态分流功能,将数据按照一定的规则进行分流,以便后续的处理和分析。具体的实现可以通过配置表来确定字段和规则,使用Flink-CDC处理配置表,将配置信息加载到程序中。然后,可以使用Phoenix作为维度数据的存储选择,处理广播数据和主流数据,并将数据写入HBase和Kafka中。这样就完成了ods层业务数据到dwd层的处理。\[1\]\[2\]\[3\]
#### 引用[.reference_title]
- *1* *2* *3* [Flink实时数仓项目—ODS层业务数据到DWD层](https://blog.csdn.net/yunweijie_cn/article/details/124123626)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]
阅读全文