今天小编就为大家分享一篇kafka-python批量发送数据的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

如下所示:

from kafka import KafkaClient
from kafka.producer import SimpleProducer
def send_data_2_kafka(datas):
  '''
    向kafka解析队列发送数据
  '''
  client = KafkaClient(hosts=KAFKABROKER.split(","), timeout=30)
  producer = SimpleProducer(client, async=False)
 
  curcount = len(datas)/PARTNUM
  for i in range(0, PARTNUM):
    start = i*curcount
    if i != PARTNUM - 1:
      end = (i+1)*curcount
      curdata = datas[start:end]
      producer.send_messages(TOPICNAME, *curdata)
    else:
      curdata = datas[start:]
      producer.send_messages(TOPICNAME, *curdata)
    
  producer.stop()
  client.close()

其中PARTNUM为topic的partition的数目,这样保证批量发送的数据均匀的落在kafka的partition中。

以上这篇kafka-python批量发送数据的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持爱安网。

最新资讯
特斯拉发布电动皮卡Cybertruck 起售价3.99万美元

特斯拉发布电动皮卡Cy

这个词是赛博朋克(cyberpunk)与卡车(truck)两个词的结合。
特斯拉电动皮卡正式发布 特斯拉电动皮卡长这样

特斯拉电动皮卡正式发

在推出ModelS、Model X、Model 3、Model Y及电动卡车
特斯拉电动皮卡今日发布 马斯克称将成火星官方用车

特斯拉电动皮卡今日发

备受期待的特斯拉电动皮卡将在今日正式发布,一向热衷于
小罐茶杜国楹谈“科学创业”:选择要顺势而为

小罐茶杜国楹谈“科学

第十二届创业家年会暨产业加速大会上,小罐茶创始人、董
小鹏P7启动预售:价格区间27-37万元 续航超650公里

小鹏P7启动预售:价格区

小鹏汽车表示,P7智能音乐座舱不是功能和配置的简单叠加
威马EX6 Plus正式上市 综合补贴后售价23.99万元

威马EX6 Plus正式上市

威马汽车旗下长续航智能5座SUV——威马EX6 Plus于广州
最新文章
python实现在cmd窗口显示彩色文字

python实现在cmd窗口

今天小编就为大家分享一篇python实现在cmd窗口显示彩
解决python xx.py文件点击完之后一闪而过的问题

解决python xx.py文件

今天小编就为大家分享一篇解决python xx.py文件点击完
pandas DataFrame 交集并集补集的实现

pandas DataFrame 交

这篇文章主要介绍了pandas DataFrame 交集并集补集的
pandas计数 value_counts()的使用

pandas计数 value_cou

这篇文章主要介绍了pandas计数 value_counts()的使用,
详解python深浅拷贝区别

详解python深浅拷贝区

在本篇文章里小编给大家整理了关于python深浅拷贝区别
详解10个可以快速用Python进行数据分析的小技巧

详解10个可以快速用Py

这篇文章主要介绍了详解10个可以快速用Python进行数据