对对python操作操作kafka写入写入json数据的简单数据的简单demo分享分享
如下所示:如下所示:
安装kafka支持库pip install kafka-python
from kafka import KafkaProducer
import json
'''
生产者demo
向test_lyl2主题中循环写入10条json数据
注意事项:要写入json数据需加上value_serializer参数,如下代码
'''
producer = KafkaProducer(
value_serializer=lambda v: json.dumps(v).encode('utf-8'),
bootstrap_servers=['192.168.12.101:6667','192.168.12.102:6667','192.168.12.103:6667'] )
for i in range(10):
data={
"name":"李四",
"age":23,
"gender":"男",
"id":i
}
producer.send('test_lyl2', data)
producer.close()
from kafka import KafkaConsumer
import json
'''
消费者demo
消费test_lyl2主题中的数据
注意事项:如需以json格式读取数据需加上value_deserializer参数
'''
consumer = KafkaConsumer('test_lyl2',group_id="lyl-gid1",
bootstrap_servers=['192.168.12.101:6667','192.168.12.102:6667','192.168.12.103:6667'],
auto_offset_reset='earliest',value_deserializer=json.loads
)
for message in consumer:
print(message.value)
以上这篇对python操作kafka写入json数据的简单demo分享就是小编分享给大家的全部内容了,希望能给大家一个参考,也希
望大家多多支持软件开发网。
您可能感兴趣的文章您可能感兴趣的文章:python每5分钟从kafka中提取数据的例子python 消费 kafka 数据教程python kafka 多线程消费者&手动
提交实例python操作kafka实践的示例代码python hbase读取数据发送kafka的方法在python环境下运用kafka对数据进行实时
传输的方法kafka-python批量发送数据的实例python消费kafka数据批量插入到es的方法深入了解如何基于Python读写Kafka
评论0