. At-least-once 有可能重复处理数据。 应用程序中的所有算子都保证数据或事件至少被处理一次。这通常意味着如果事件在流应用程序完 全处理之前丢失,则将从源头重放或重新传输事件。然而,由于事件是可以被重传的,因此一个事 件有时会被处理多次(至少一次),至于有没有重复数据,不会关心,所以这种场景需要人工干预自 己处理重复数据。 。。。根据现实解释。。。
时间: 2023-06-26 15:04:02 浏览: 34
这种情况可以类比为快递送货。如果一个包裹在途中丢失了,快递公司会重新派送同样的包裹以确保客户收到。但是,如果客户已经收到了原始包裹,那么他们就会收到两个相同的包裹,这就是重复数据的情况。在这种情况下,客户需要自己处理多余的包裹,即人工处理重复数据。同样地,在流应用程序中,事件可能会重复处理,需要应用程序开发人员或数据处理人员进行额外的处理以去除重复数据。
相关问题
flink CheckpointingMode.AT_LEAST_ONCE DeliveryGuarantee.AT_LEAST_ONCE 的区别
CheckpointingMode.AT_LEAST_ONCE 和 DeliveryGuarantee.AT_LEAST_ONCE 都是 Flink 中的重要概念,它们的区别在于:
- CheckpointingMode.AT_LEAST_ONCE 表示 Flink 在进行 checkpoint 时,会保证每个数据源至少被处理一次。这意味着如果某个数据源在 checkpoint 时失败了,Flink 会重新处理该数据源,以确保数据的完整性。
- DeliveryGuarantee.AT_LEAST_ONCE 表示 Flink 在进行数据传输时,会保证每条数据至少被传输一次。这意味着如果某条数据在传输时失败了,Flink 会重新传输该数据,以确保数据的可靠性。
因此,CheckpointingMode.AT_LEAST_ONCE 和 DeliveryGuarantee.AT_LEAST_ONCE 都是为了保证数据的完整性和可靠性,但它们的应用场景不同。CheckpointingMode.AT_LEAST_ONCE 更适用于需要进行状态管理的场景,而 DeliveryGuarantee.AT_LEAST_ONCE 更适用于需要进行数据传输的场景。
流处理引擎通常为应用程序提供了三种数据处理语义:最多一次、至少一次和精确一次。 (一致性由弱到强):At most noce < At least once < Exactly once < End to End Exactly once 根据现实举例.
最多一次语义通常用于数据丢失风险比较小的场景,例如某个应用程序需要读取某个消息队列中的数据,如果在读取过程中数据丢失,那么这些数据也不会对后续的处理造成太大的影响。
至少一次语义通常用于数据丢失风险比较大的场景,例如某个应用程序需要将数据写入到数据库中,如果数据写入失败,那么这些数据可能会丢失,因此需要确保至少将数据写入一次。
精确一次语义通常用于需要避免数据重复处理的场景,例如某个应用程序需要将数据写入到某个消息队列中,如果将数据写入两次,那么可能会导致后续的处理出现重复数据的情况。
最终一致性(End to End Exactly once)通常用于需要确保数据不重不漏地被处理的场景,例如某个应用程序需要将数据从一个消息队列中读取出来,经过多个处理步骤后写入到另外一个消息队列中,如果不使用最终一致性,那么可能会导致数据重复或者丢失的情况。
相关推荐
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)