今天小编就为大家分享一篇kafka-python批量发送数据的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

如下所示:

from kafka import KafkaClient
from kafka.producer import SimpleProducer
def send_data_2_kafka(datas):
  '''
    向kafka解析队列发送数据
  '''
  client = KafkaClient(hosts=KAFKABROKER.split(","), timeout=30)
  producer = SimpleProducer(client, async=False)
 
  curcount = len(datas)/PARTNUM
  for i in range(0, PARTNUM):
    start = i*curcount
    if i != PARTNUM - 1:
      end = (i+1)*curcount
      curdata = datas[start:end]
      producer.send_messages(TOPICNAME, *curdata)
    else:
      curdata = datas[start:]
      producer.send_messages(TOPICNAME, *curdata)
    
  producer.stop()
  client.close()

其中PARTNUM为topic的partition的数目,这样保证批量发送的数据均匀的落在kafka的partition中。

以上这篇kafka-python批量发送数据的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持爱安网。

最新资讯
比亚迪王传福:电动车全面替代燃油车的时机已成熟

比亚迪王传福:电动车全

随着近年来电动车的电池、电机、电控等技术越来越成熟
蔚来秦力洪:充电桩、换电站建设在大部分地方无法可依

蔚来秦力洪:充电桩、换

电动汽车的进一步普及,公共设施、基础设施的普及是一个
“工具人”钉钉

“工具人”钉钉

被钉钉寄予厚望的钉钉宜搭平台,在“云钉一体”战略后,该
腾讯战华为:一场渠道之争背后,游戏行业变天了

腾讯战华为:一场渠道之

从‘渠道为王’到‘内容为王’,优质内容的价值正在被重
新能源汽车销量创新高!续航里程短仍是购车阻力

新能源汽车销量创新高

买新能源汽车,网友最担心什么?据21网调实验室调查统计,“
中芯国际蒋尚义入职后首次亮相:先进工艺和先进封装都会发展

中芯国际蒋尚义入职后

中芯国际副董事长蒋尚义现身并针对中芯国际发展方向等
最新文章
在pycharm中为项目导入anacodna环境的操作方法

在pycharm中为项目导

这篇文章主要介绍了在pycharm中为项目导入anacodna环
tensorflow的ckpt及pb模型持久化方式及转化详解

tensorflow的ckpt及pb

今天小编就为大家分享一篇tensorflow的ckpt及pb模型持
PyTorch笔记之scatter()函数的使用

PyTorch笔记之scatter

这篇文章主要介绍了PyTorch笔记之scatter()函数的使用
python3实现网页版raspberry pi(树莓派)小车控制

python3实现网页版ras

这篇文章主要为大家详细介绍了python3实现网页版raspb
完美解决pycharm导入自己写的py文件爆红问题

完美解决pycharm导入

今天小编就为大家分享一篇完美解决pycharm导入自己写
pycharm内无法import已安装的模块问题解决

pycharm内无法import

今天小编就为大家分享一篇pycharm内无法import已安装