大数据监控工具:实现Kafka监控_Eagle安装与配置详细步骤

实现Kafka监控_Eagle

1）修改kafka启动命令

[bigdata@hadoop102 bin]$ vim kafka-server-start.sh

修改kafka-server-start.sh命令中

if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
    export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
fi

为

if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
    export KAFKA_HEAP_OPTS="-server -Xms2G -Xmx2G -XX:PermSize=128m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=5 -XX:InitiatingHeapOccupancyPercent=70"
    export JMX_PORT="9999"
    #export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
fi

注意：修改之后在启动Kafka之前要分发至其他节点

[bigdata@hadoop102 bin]$ xsync kafka-server-start.sh

2）上传压缩包kafka-eagle-bin-1.3.7.tar.gz到集群/opt/software目录

3）解压到本地

[bigdata@hadoop102 software]$ tar -zxvf kafka-eagle-bin-1.3.7.tar.gz

4）进入刚才解压的目录

[bigdata@hadoop102 kafka-eagle-bin-1.3.7]$ ll

总用量 82932

-rw-rw-r--. 1 bigdata bigdata 84920710 8月 13 23:00 kafka-eagle-web-1.3.7-bin.tar.gz

5）将kafka-eagle-web-1.3.7-bin.tar.gz解压至/opt/module

[bigdata@hadoop102 kafka-eagle-bin-1.3.7]$ tar -zxvf kafka-eagle-web-1.3.7-bin.tar.gz -C /opt/module/

6）修改名称

[bigdata@hadoop102 module]$ mv kafka-eagle-web-1.3.7/ eagle

7）给启动文件执行权限

[bigdata@hadoop102 eagle]$ cd bin/

[bigdata@hadoop102 bin]$ ll

总用量 12

-rw-r--r--. 1 bigdata bigdata 1848 8月 22 2017 ke.bat

-rw-r--r--. 1 bigdata bigdata 7190 7月 30 20:12 ke.sh

[bigdata@hadoop102 bin]$ chmod 777 ke.sh

8）修改配置文件

[bigdata@hadoop102 conf]$ vim system-config.properties

######################################
# multi zookeeper&kafka cluster list
######################################
kafka.eagle.zk.cluster.alias=cluster1
cluster1.zk.list=hadoop102:2181,hadoop103:2181,hadoop104:2181/kafka

######################################
# kafka offset storage
######################################
cluster1.kafka.eagle.offset.storage=kafka

######################################
# enable kafka metrics
######################################
kafka.eagle.metrics.charts=true
kafka.eagle.sql.fix.error=false

######################################
# kafka jdbc driver address
######################################
kafka.eagle.driver=com.mysql.jdbc.Driver
kafka.eagle.url=jdbc:mysql://hadoop102:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
kafka.eagle.username=root
kafka.eagle.password=000000 

9）添加环境变量

[bigdata@hadoop102 ~]$ sudo vim /etc/profile.d/my_env.sh

#KE_HOME
export KE_HOME=/opt/module/eagle
export PATH=$PATH:$KE_HOME/bin

注意：source /etc/profile

10）启动

[bigdata@hadoop102 eagle]$ bin/ke.sh start

... ...
... ...
*******************************************************************
* Kafka Eagle Service has started success.
* Welcome, Now you can visit 'http://192.168.9.102:8048/ke'
* Account:admin ,Password:123456
*******************************************************************
* <Usage> ke.sh [start|status|stop|restart|stats] </Usage>
* <Usage> https://www.kafka-eagle.org/ </Usage>
*******************************************************************
[bigdata@hadoop102 eagle]$

注意：启动之前需要先启动ZK以及KAFKA

11）登录页面查看监控数据

http://192.168.9.102:8048/ke

你的赞，我都当成喜欢。

专注分享大数据技术&智能技术&基础&实战，干货，资料。

关注本号，让更多人了解技术，让技术造福更多人。欢迎转发传播，感谢您的关注，谢谢。