今天小编就为大家分享一篇kafka-python批量发送数据的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

如下所示:

from kafka import KafkaClient
from kafka.producer import SimpleProducer
def send_data_2_kafka(datas):
  '''
    向kafka解析队列发送数据
  '''
  client = KafkaClient(hosts=KAFKABROKER.split(","), timeout=30)
  producer = SimpleProducer(client, async=False)
 
  curcount = len(datas)/PARTNUM
  for i in range(0, PARTNUM):
    start = i*curcount
    if i != PARTNUM - 1:
      end = (i+1)*curcount
      curdata = datas[start:end]
      producer.send_messages(TOPICNAME, *curdata)
    else:
      curdata = datas[start:]
      producer.send_messages(TOPICNAME, *curdata)
    
  producer.stop()
  client.close()

其中PARTNUM为topic的partition的数目,这样保证批量发送的数据均匀的落在kafka的partition中。

以上这篇kafka-python批量发送数据的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持爱安网。

最新资讯
自动续费扣钱没商量 电商法之下消费"黑洞"为何仍在?

自动续费扣钱没商量

今年1月1日起正式实施的电子商务法规定,电子商务经营者
港媒:马云仍然希望阿里巴巴能够在香港上市

港媒:马云仍然希望阿里

阿里巴巴可能还在考虑香港上市。
TCL:彩电在北美销量首次第一,超越三星

TCL:彩电在北美销量首

作为一家来自广东的家电制造商,曾在全球化遭短暂折戟的
诺基亚一季度运营亏损5900万欧元 预估盈利2.8亿欧元

诺基亚一季度运营亏损

诺基亚一季度经调整后运营亏损5900万欧元,预估为盈利2.
腾讯与迪信通战略合作 智慧零售版图继续扩张

腾讯与迪信通战略合作

双方约定将充分利用各自线上、线下不同领域的优势资源
微软高管解读第三财季财报:Azure增长保持强劲去世

微软高管解读第三财季

报告显示,微软第三财季营收为305.71亿美元,与去年同期的
最新文章
Python图像处理之图像的缩放、旋转与翻转实现方法示例

Python图像处理之图像

这篇文章主要介绍了Python图像处理之图像的缩放、旋转
详解Appium+Python之生成html测试报告

详解Appium+Python之

这篇文章主要介绍了详解Appium+Python之生成html测试
Python面向对象程序设计OOP入门教程【类,实例,继承,重载等】

Python面向对象程序设

这篇文章主要介绍了Python面向对象程序设计OOP入门教
在python中使用with打开多个文件的方法

在python中使用with打

今天小编就为大家分享一篇在python中使用with打开多个
对Python+opencv将图片生成视频的实例详解

对Python+opencv将图

今天小编就为大家分享一篇对Python+opencv将图片生成
python 同时运行多个程序的实例

python 同时运行多个

今天小编就为大家分享一篇python 同时运行多个程序的