flink sql 常用配置
时间: 2023-09-19 10:12:34 浏览: 49
在Flink SQL中,常用的配置包括:regular join、Split Distinct优化方法、LocalGlobal优化、MiniBatch等。
regular join是Flink SQL中常用的连接操作,包括inner join、left join和right join。在regular join中,左右表的数据都会一直保存在状态里,不会清理。如果需要清理数据,可以设置TTL(Time-To-Live)或使用Flink SQL的interval join。
Split Distinct优化方法是一种优化方法,可以用于处理包含UDAF(User-Defined Aggregation Function)的Flink SQL语句。但目前在包含UDAF的Flink SQL中不能使用Split Distinct优化方法。
LocalGlobal优化是Flink SQL中的一种优化策略。该优化策略可以将聚合操作拆分为两个GROUP聚合操作,并参与LocalGlobal优化。这个功能在Flink 1.9.0版本及以上版本才支持。
MiniBatch是Flink SQL中的一种机制,可以将输入数据分批处理,以减少资源消耗。开启MiniBatch需要依赖于MiniBatch的参数设置。常用的MiniBatch参数包括:
- `table.exec.mini-batch.enabled`:是否开启MiniBatch,默认为false。
- `table.exec.mini-batch.allow-latency`:批量输出的间隔时间,用于控制数据处理的延迟。
- `table.exec.mini-batch.size`:每个批次最多缓存数据的条数,可以根据需求进行调整。
除了上述常用配置外,还可以根据具体需求设置其他参数,如聚合策略`table.optimizer.agg-phase-strategy`,用于控制聚合操作的执行策略。默认为AUTO,还支持TWO_PHASE(使用LocalGlobal两阶段聚合)和ONE_PHASE(仅使用Global一阶段聚合)两种策略。
示例代码中展示了如何设置这些参数:
```
// 初始化table environment
TableEnvironment tEnv = ...
// 获取tableEnv的配置对象
Configuration configuration = tEnv.getConfig().getConfiguration();
// 设置参数:
// 开启MiniBatch
configuration.setString("table.exec.mini-batch.enabled", "true");
// 批量输出的间隔时间
configuration.setString("table.exec.mini-batch.allow-latency", "5 s");
// 防止OOM,设置每个批次最多缓存数据的条数,可以设为2万条
configuration.setString("table.exec.mini-batch.size", "20000");
// 开启LocalGlobal
configuration.setString("table.optimizer.agg-phase-strategy", "TWO_PHASE");
```
综上所述,这些是Flink SQL中常用的配置。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* *3* [Flink 优化(六) --------- FlinkSQL 调优](https://blog.csdn.net/m0_51111980/article/details/130102786)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"]
[ .reference_list ]