今天小编就为大家分享一篇kafka-python批量发送数据的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

如下所示:

from kafka import KafkaClient
from kafka.producer import SimpleProducer
def send_data_2_kafka(datas):
  '''
    向kafka解析队列发送数据
  '''
  client = KafkaClient(hosts=KAFKABROKER.split(","), timeout=30)
  producer = SimpleProducer(client, async=False)
 
  curcount = len(datas)/PARTNUM
  for i in range(0, PARTNUM):
    start = i*curcount
    if i != PARTNUM - 1:
      end = (i+1)*curcount
      curdata = datas[start:end]
      producer.send_messages(TOPICNAME, *curdata)
    else:
      curdata = datas[start:]
      producer.send_messages(TOPICNAME, *curdata)
    
  producer.stop()
  client.close()

其中PARTNUM为topic的partition的数目,这样保证批量发送的数据均匀的落在kafka的partition中。

以上这篇kafka-python批量发送数据的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持爱安网。

最新资讯
Steam中国定名“蒸汽平台” 几乎完全独立于Steam

Steam中国定名“蒸汽

在今天的完美世界发布会上,Steam中国终于正式定名,叫作
索尼正式宣布与漫威"分手":失望,但尊重迪士尼的决定

索尼正式宣布与漫威"

索尼影业发布声明回应,正式宣布漫威影业和凯文·费奇将
一台5G基站要花多少钱?业内:初期高达60万元

一台5G基站要花多少钱

据悉移动联通电信三家公司今年的资本开支约合3000亿元
巴克莱授予拼多多“增持”评级 预计其将2020年盈利

巴克莱授予拼多多“增

巴克莱银行近日发布投资评级报告,首次覆盖中国新电商平
知乎获百度快手融资 创始人周源将向何方

知乎获百度快手融资

联合了快手、百度以后的知乎,将面向更广阔的用户生态及
齐向东:网络安全已进化到“内生安全”时代

齐向东:网络安全已进化

奇安信集团董事长齐向东在做大会主题演讲时表示,面对不
最新文章
python+pyqt5实现图片批量缩放工具

python+pyqt5实现图片

这篇文章主要为大家详细介绍了Python+pyqt5实现图片批
python+pyqt5编写md5生成器

python+pyqt5编写md5

这篇文章主要为大家详细介绍了python+pyqt5编写md5生
Python动态赋值的陷阱知识点总结

Python动态赋值的陷阱

在本文中我们给大家整理了关于Python动态赋值的陷阱的
Python中super函数用法实例分析

Python中super函数用

这篇文章主要介绍了Python中super函数用法,结合实例形
Python操作MySQL数据库的两种方式实例分析【pymysql和pandas】

Python操作MySQL数据

这篇文章主要介绍了Python操作MySQL数据库的两种方式,
matplotlib实现区域颜色填充

matplotlib实现区域颜

这篇文章主要为大家详细介绍了matplotlib实现区域颜色