大数据技术 kafka安装教程
沉沙 2018-09-27 来源 : 阅读 1695 评论 0

摘要:本篇教程探讨了大数据技术 kafka安装教程,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

本篇教程探讨了大数据技术 kafka安装教程,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

<

一、kafka安装(集群模式)
1、安装前准备
机器:10.199.240.232,10.199.206.20
kafka版本:2.12-0.10.1.1
下载地址; https://mirrors.tuna.tsinghua.edu.cn/apache/
相关目录:
/apps/svr/kafka_2.12-0.10.1.1  kafka根目录
/apps/logs/kafka                       kafka日志目录
/apps/sh                                       kafka启动脚本
注意:笔者 zk 已经提前部署好;本文没有对zk的集群安装简述
2、安装步骤
(1)kafka booker1
cd /apps/svr/kafka_2.12-0.10.1.1/config
mv server.properties server.properties.bak
touch server.properties
vim server.properties




broker.id=1
listeners=PLAINTEXT://10.199.206.20:9092
advertised.listeners=PLAINTEXT://10.199.206.20:9092
host.name=10.199.206.20
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
num.partitions=3
num.recovery.threads.per.data.dir=1
log.dirs=/apps/logs/kafka
log.flush.interval.messages=10000
log.flush.interval.ms=1000
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect=zk1:2181
zookeeper.connection.timeout.ms=6000




vim producer.properties




bootstrap.servers=10.199.240.232:9092,10.199.206.20:9092
compression.type=none




vim /etc/hosts




10.199.240.232 kafka2  zk2  db-t7pfx.vclound.com
10.199.206.20  kafka1  zk1  xupengzhang-gz5rn.vclound.com




 
(2)kafka broker2
cd /apps/svr/kafka_2.12-0.10.1.1/config
mv server.properties server.properties.bak
touch server.properties
vim server.properties




broker.id=2
listeners=PLAINTEXT://10.199.240.232:9092
advertised.listeners=PLAINTEXT://10.199.240.232:9092
host.name=10.199.240.232
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
num.partitions=3
num.recovery.threads.per.data.dir=1
log.dirs=/apps/logs/kafka
log.flush.interval.messages=10000
log.flush.interval.ms=1000
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect=zk1:2181
zookeeper.connection.timeout.ms=6000




vim producer.properties




bootstrap.servers=10.199.240.232:9092,10.199.206.20:9092
compression.type=none




vim /etc/hosts




10.199.240.232 kafka2  zk2  db-t7pfx.vclound.com
10.199.206.20  kafka1  zk1  xupengzhang-gz5rn.vclound.com




(3)启动脚本

 1 source /etc/profile
 2 kafkaHome="/apps/svr/kafka_2.12-0.10.1.1"
 3 kafkaBin="$kafkaHome/bin"
 4 kafkaConf="$kafkaHome/config"
 5 zkHome="/apps/svr/zookeeper-3.4.11"
 6 zkBin="$zkHome/bin"
 7 
 8 function start() {
 9         echo "Starting bundle zookeeper..."
10         $zkHome/bin/zkServer.sh start &
11         sleep 3
12         echo "Starting kafka server..."
13         $kafkaHome/bin/kafka-server-start.sh -daemon $kafkaHome/config/server.properties &
14         return $?
15 }
16 
17 function stop() {
18         echo "Stoping kafka server..."
19         $kafkaHome/bin/kafka-server-stop.sh -daemon $kafkaHome/config/server.properties &
20         sleep 3
21         echo "Stoping bundle zookeeper..."
22         $zkHome/bin/zkServer.sh stop &
23         return $?
24 }
25 case "$1" in
26     start)
27         start
28     ;;
29     stop)
30         stop
31     ;;
32     restart)
33         stop
34         sleep 1
35         start
36     ;;

 
   

本文由职坐标整理发布,学习更多的大数据技术相关知识,请关注职坐标大技术云计算大技术技术频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved