博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
kafka集群搭建与apiclient创建
阅读量:6936 次
发布时间:2019-06-27

本文共 1250 字,大约阅读时间需要 4 分钟。

曾经的消息队列(activeMQ)对于大数据吞吐率不行,但kafka非常好的攻克了此类问题。而且以集群的方式进行扩展。可谓相当强大:

集群搭建方式很轻量级。仅仅需将tar包复制到server,解压,改动配置文件就可以:

1、tar -xzf kafka_2.9.2-0.8.1.1.tgz

2、改动配置文件:
节点1:
vim config/server.properties    broker.id=1  //全部集群节点中必须唯一    port=9092    //端口号(发送消息)    log.dir=/tmp/kafka-logs-1  //日志存放路径
       host.name=datanode    //域名随便取
       zookeeper.connect=datanode:2181,namenode:2181   //节点间地址
节点2:
vim config/server.properties    broker.id=:2  //全部集群节点中必须唯一    port=9092    //端口号(发送消息)    log.dir=/tmp/kafka-logs-1  //日志存放路径
       host.name=namenode    //域名随便取
       zookeeper.connect=datanode:2181,namenode:2181   //节点间地址
......
3、启动zookeeper(最好每台节点都要启动)
bin/zookeeper-server-start.sh config/zookeeper.properties &
4、启动kafka每一个节点(每台节点都要启动)
bin/kafka-server-start.sh config/server.properties &
5、新建主题topic(仅仅要建一次即可)
bin/kafka-topics.sh --create --zookeeper namenode:2181 --replication-factor 2 --partitions 2 --topic topic1
6、查看主题topic
bin/kafka-topics.sh --describe --zookeeper namenode:2181 --topic topic1
 
7、新建producer发送消息
a.bin/kafka-console-producer.sh --broker-list namenode:9092 --topic topic1
b.输入消息 Ctrl+c终止输入
8、新建consumer消费消息
bin/kafka-console-consumer.sh --zookeeper namenode:2181 --from-beginning --topic topic1
OK 集群搞定
 
開始检測javaclient的情况:
 
1、创建生产者:
 
 
2、创建消费者:
 
 
 
 
5、载入partition
 
6、处理消息
 
 
检測完成
       
 

转载地址:http://zgpjl.baihongyu.com/

你可能感兴趣的文章
Python Oracle用户下执行root特权命令
查看>>
css控制长方形图片在正方形区域显示,且不变形
查看>>
Linux执行python传参问题
查看>>
域模型相关概念
查看>>
java的数据类型
查看>>
监听键盘回车事件
查看>>
ruby学习笔记-环境变量
查看>>
MySql索引原理与使用大全
查看>>
网站被黑怎么处理 首页被篡改
查看>>
12345反射
查看>>
职业生涯5个必经阶段,你在哪个阶段?
查看>>
腾讯面试官送给准程序员的一些建议!受益匪浅
查看>>
SLPDB推动比特币现金(BCH)Token生态系统出现质的飞跃
查看>>
Windows10 手机应用程序开发 - 1.安装VS2015 启动Win10 Mobile模拟器
查看>>
ubuntu 安装redis实践
查看>>
x_7_15_2013 F: 巧克力
查看>>
如何在Vim中选中html标签中和引号的内容
查看>>
分布式系统原理概述
查看>>
Java如何替换字符串中的.
查看>>
类的静态成员变量和静态成员函数的使用方法一
查看>>