kafka消息队列原理
时间: 2023-10-04 19:07:54 浏览: 120
kafka消息队列学习笔记
5星 · 资源好评率100%
Kafka是一个分布式的基于发布订阅模式的消息队列,主要用于大数据实时处理。在Kafka中,消息是以topic进行分类的,生产者生产消息,消费者消费消息都是面向topic的。[2]
在Kafka 0.11版本之后,引入了幂等性机制,配合acks=-1的at least once语义,实现了从producer到broker的exactly once语义。这意味着Kafka能够提供精确一次交付的功能,保证消息不会被重复处理。
此外,Kafka有效地支持精确一次交付。对于Kafka Streams中的数据传输和处理,事务性生产者/消费者是可用的。而对于其他目的地系统的精确一次交付,通常需要与Kafka进行合作。Kafka提供了偏移量,这使得实现精确一次交付成为可能。默认情况下,Kafka保证至少进行一次传递,并且允许用户通过禁用生产者的重试并在消费者中提交偏移来实现最多一次传递的语义。
综上所述,Kafka的消息队列原理主要包括基于发布订阅模式的分类消息、幂等性机制、精确一次交付等特性。<span class="em">1</span><span class="em">2</span><span class="em">3</span><span class="em">4</span>
#### 引用[.reference_title]
- *1* *2* *3* [kafka基本原理](https://blog.csdn.net/khuangliang/article/details/107776046)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
- *4* [消息队列之-Kafka原理讲解](https://blog.csdn.net/wanglei_storage/article/details/82692413)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]
阅读全文