kafka保存数据的一致性
时间: 2023-10-10 07:12:43 浏览: 91
代码:kafka数据接入到mysql中
Kafka保存数据的一致性是通过幂等性和Exactly Once语义来保证的。在Kafka的0.11版本以前,只能保证数据的不丢失,需要在下游消费者对数据进行全局去重。而在0.11版本引入了幂等性特性,Producer在初始化时会被分配一个PID,发往同一Partition的消息会附带Sequence Number,Broker端会对<PID, Partition, SeqNumber>做缓存,当具有相同主键的消息提交时,Broker只会持久化一条,从而实现幂等性。幂等性结合At Least Once语义,就构成了Kafka的Exactly Once语义。但需要注意的是,跨分区和跨会话的Exactly Once无法保证。
阅读全文