0
点赞
收藏
分享

微信扫一扫

Zookeeper+Kafka概述

路西法阁下 2024-01-11 阅读 30
zookeeper分布式云原生

一 Zookeeper

1.1 Zookeeper定义

Zookeeper是一个开源的、分布式的，为分布式框架提供协调服务的Apache项目。

1.2 Zookeeper特点

  1. Zookeeper：一个领导者（leader），多个跟随者（Follower）组成的集群。
  2. Zookeeper：集群中只要有半数以上节点存活，Zookeeper集群就正常服务，所以Zookeeper适合安装奇数台服务器。
  3. 全局数据一致：每个Server保存一份相同的数据副本，Client无论连接到哪个Server，数据都是一致的。
  4. 更新请求顺序执行：来自同一个Client的更新请求按其发送顺序依次执行，即先进先出。
  5. 数据更新原子性：一次数据更新要么成功，要么失败。
  6. 实时性：在一定时间范围内，Client能读到最新数据。

1.3 Zookeeper数据结构

Zookeeper数据模型的结构与Linux文件系统类似，整体上可以看作是一颗树，每个节点称作ZNode。每一个ZNode默认能够存储1MB的数据，每个ZNode都可以通过其路径唯一标识。

1.4 Zookeeper应用场景

Zookeeper提供的服务包括：统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

  • 统一命名服务：在分布式环境下，经常需要对应用程序/服务进行统一命名，便于识别。
  • 统一配置管理：（1）分布式环境下，配置文件同步非常常见。一般要求一个集群中，所有节                             点的配置信息是一致的。对配置文件修改后，希望能够快速同步到各个节点                             上。                                                                                                                                           （2）管理配置可交由Zookeeper实现。可将配置信息写入Zookeeper上的一                               个Znode。各个客户端监听这个Znode，一旦Znode中的数据被修改，                                        Zookeeper将通知各个客户端服务器。
  • 统一集群管理：（1）分布式环境中，实时掌握每个节点的状态是必要的，课根据节点实时状                             态做出一些调整。                                                                                                                     （2）Zookeeper可以实时监控节点状态的变化，可将节点信息写入                                             Zookeeper上的一个ZNode，监听这个ZNode可获取它的实时状态变化。
  • 服务器动态上下线：客户端能实时洞察到服务器上下线的变化。
  • 软负载均衡：在Zookeeper中记录每台服务器的访问数，让访问数最少的服务器去处理最新的客户端请求。

 1.5 Zookeeper选举机制

  • 第一次启动选举机制
    1. 服务器1启动，发起一次选举。服务器1投自己一票，此时服务器1票数一票，不够半数以上（3票），选举无法完成，服务器1状态保持为LOOKING；
    2. 服务器2启动，再发起一次选举。服务器1和2分别投自己一票并交换选票信息，此时服务器1发现服务器2的myid比自己目前投票推举的（服务器1）大，更改选票为推举服务器2.此时服务器1票数0，服务器2票数2票，没有半数以上结果，选举无法完成，服务器1、2状态保持LOOKING；
    3. 服务器3启动，发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果，服务器1为0票，服务器2为0票，服务器3为3票。此时服务器3的票数意见超过半数，服务器3当选Leader。服务器1、2更改状态为FOLLOWING，服务器3更改状态为LEADING；
    4. 服务器4启动，发起一次选举。此时服务器1、2、3已经不是LOOKING状态，不会更改选票信息。交换选票信息结构，服务器3为3票，服务器4为1票，此时服务器4服从多数，更改选票信息为服务器3，并更改状态为FOLLOWING；
    5. 服务器5启动，跟服务器4一样当小弟。
  • 非第一次启动选举机制
    • 当Zookeeper集群中的一台服务器出现了以下两种情况之一时，就会开始进入Leader选举： 
      • 服务器初始化启动。
      • 服务器运行期间无法和Leader保持连接。 
    • 当一台机器进入Leader选举流程时，当前集群也可能会处于以下两种状态：
      • 集群中本来就已经存在一个Leader：对于已经存在Leader的情况，机器试图去选举Leader时，会被告知当前服务器的Leader信息，对于该机器来说，仅仅需要和Leader机器建立连接，并进行状态同步即可。
      • 集群中确实不存在Leader：假设Zookeeper由5台服务器组成，SID分别为1、2、3、4、5，ZXID分别为8、8、8、7、7，并且此时SID为3的服务器是Leader。某一时刻，3和5服务器出现故障，因此开始进行Leader选举。

                    选举Leader规则：（1）EPOCH大的直接胜出；

                                                  （2）EPOCH相同，事务id大的胜出；

                                                  （3）事务id相同，服务器id大的胜出。

2.1 部署zookeeper集群

准备：3台服务器

#关闭防火墙

systemctl stop firewalld
systemctl disable firewalld
setenforce 0

 #安装jdk

yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
java -version

#下载安装包

cd /opt
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.7/apache-zookeeper-3.5.7-bin.tar.gz

#2.安装 Zookeeper

cd /opt
tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz
mv apache-zookeeper-3.5.7-bin /usr/local/zookeeper-3.5.7

# 修改配置文件

cd /usr/local/zookeeper-3.5.7/conf/
cp zoo_sample.cfg zoo.cfg

 vim zoo.cfg

tickTime=2000   
#通信心跳时间，Zookeeper服务器与客户端心跳时间，单位毫秒
initLimit=10    
#Leader和Follower初始连接时能容忍的最多心跳数（tickTime的数量），这里表示为10*2s
syncLimit=5     
#Leader和Follower之间同步通信的超时时间，这里表示如果超过5*2s，Leader认为Follwer死掉，并从服务器列表中删除Follwer
dataDir=/usr/local/zookeeper-3.5.7/data      
●修改，指定保存Zookeeper中的数据的目录，目录需要单独创建
dataLogDir=/usr/local/zookeeper-3.5.7/logs   
●添加，指定存放日志的目录，目录需要单独创建
clientPort=2181   
#客户端连：接端口
#添加集群信息
server.1=192.168.27.17:3188:3288
server.2=192.168.27.21:3188:3288
server.3=192.168.27.22:3188:3288

#拷贝配置好的 Zookeeper 配置文件到其他机器上

scp /usr/local/zookeeper-3.5.7/conf/zoo.cfg 192.168.27.21:/usr/local/zookeeper-3.5.7/conf/
scp /usr/local/zookeeper-3.5.7/conf/zoo.cfg 192.168.27.22:/usr/local/zookeeper-3.5.7/conf/

#在每个节点上创建数据目录和日志目录

mkdir /usr/local/zookeeper-3.5.7/data
mkdir /usr/local/zookeeper-3.5.7/logs

#在每个节点的dataDir指定的目录下创建一个 myid 的文件

echo 1 > /usr/local/zookeeper-3.5.7/data/myid
echo 2 > /usr/local/zookeeper-3.5.7/data/myid
echo 3 > /usr/local/zookeeper-3.5.7/data/myid

# 配置 Zookeeper 启动脚本

vim /etc/init.d/zookeeper

#!/bin/bash
#chkconfig:2345 20 90
#description:Zookeeper Service Control Script
ZK_HOME='/usr/local/zookeeper-3.5.7'
case $1 in
start)
	echo "---------- zookeeper 启动 ------------"
	$ZK_HOME/bin/zkServer.sh start
;;
stop)
	echo "---------- zookeeper 停止 ------------"
	$ZK_HOME/bin/zkServer.sh stop
;;
restart)
	echo "---------- zookeeper 重启 ------------"
	$ZK_HOME/bin/zkServer.sh restart
;;
status)
	echo "---------- zookeeper 状态 ------------"
	$ZK_HOME/bin/zkServer.sh status
;;
*)
    echo "Usage: $0 {start|stop|restart|status}"
esac

# 设置开机自启

chmod +x /etc/init.d/zookeeper
chkconfig --add zookeeper

# 分别启动 Zookeeper

service zookeeper start

#查看当前状态

service zookeeper status

二 Kadka

1.1 Kafka概述

Kafka 是一个分布式的基于发布/订阅模式的消息队列（MQ，Message Queue），主要应用于大数据实时处理领域。

1.2 Kadka的特性

  •  高吞吐量、低延迟：Kafka 每秒可以处理几十万条消息，它的延迟最低只有几毫秒。每个 topic 可以分多个 Partition，Consumer Group 对 Partition 进行消费操作，提高负载均衡能力和消费能力。
  • 可扩展性：kafka 集群支持热扩展。
  • 持久性、可靠性：消息被持久化到本地磁盘，并且支持数据备份防止数据丢失。
  • 容错性：允许集群中节点失败（多副本情况下，若副本数量为 n，则允许 n-1 个节点失败）。
  • 高并发：支持数千个客户端同时读写。

1.3 Kafka系统架构

（1）Broker     服务器
一台 kafka 服务器就是一个 broker。一个集群由多个 broker 组成。一个 broker 可以容纳多个 topic。

（2）Topic   主题
可以理解为一个队列，生产者和消费者面向的都是一个 topic。
类似于数据库的表名或者 ES 的 index
物理上不同 topic 的消息分开存储

（3）Partition  分区
为了实现扩展性，一个非常大的 topic 可以分布到多个 broker（即服务器）上，一个 topic 可以分割为一个或多个 partition，每个 partition 是一个有序的队列。Kafka 只保证 partition 内的记录是有序的，而不保证 topic 中不同 partition 的顺序。

每个 topic 至少有一个 partition，当生产者产生数据的时候，会根据分配策略选择分区，然后将消息追加到指定的分区的队列末尾。
        Partation 数据路由规则：（1）指定了 patition，则直接使用；

                                                （2）未指定 patition 但指定 key（相当于消息中某个属性），通过                                                     对 key 的 value 进行 hash 取模，选出一个 patition；

                                               （3）patition 和 key 都未指定，使用轮询选出一个 patition。

每条消息都会有一个自增的编号，用于标识消息的偏移量，标识顺序从 0 开始。

每个 partition 中的数据使用多个 segment 文件存储。

如果 topic 有多个 partition，消费数据时就不能保证数据的顺序。严格保证消息的消费顺序的场景下（例如商品秒杀、 抢红包），需要将 partition 数目设为 1。

●broker 存储 topic 的数据。如果某 topic 有 N 个 partition，集群有 N 个 broker，那么每个 broker 存储该 topic 的一个 partition。
●如果某 topic 有 N 个 partition，集群有 (N+M) 个 broker，那么其中有 N 个 broker 存储 topic 的一个 partition， 剩下的 M 个 broker 不存储该 topic 的 partition 数据。
●如果某 topic 有 N 个 partition，集群中 broker 数目少于 N 个，那么一个 broker 存储该 topic 的一个或多个 partition。在实际生产环境中，尽量避免这种情况的发生，这种情况容易导致 Kafka 集群数据不均衡。
 

2.1 部署Kafka集群

# 下载安装包

cd /opt
wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.7.1/kafka_2.13-2.7.1.tgz

#安装 Kafka

cd /opt/
tar zxvf kafka_2.13-2.7.1.tgz
mv kafka_2.13-2.7.1 /usr/local/kafka

#修改配置文件

cd /usr/local/kafka/config/
cp server.properties{,.bak}
vim server.properties
broker.id=0    
●21行，broker的全局唯一编号，每个broker不能重复，因此要在其他机器上配置 broker.id=1、broker.id=2
listeners=PLAINTEXT://192.168.27.17:9092    
●31行，指定监听的IP和端口，如果修改每个broker的IP需区分开来，也可保持默认配置不用修改
num.network.threads=3    
#42行，broker 处理网络请求的线程数量，一般情况下不需要去修改
num.io.threads=8         
#45行，用来处理磁盘IO的线程数量，数值应该大于硬盘数
socket.send.buffer.bytes=102400       
#48行，发送套接字的缓冲区大小
socket.receive.buffer.bytes=102400    
#51行，接收套接字的缓冲区大小
socket.request.max.bytes=104857600    
#54行，请求套接字的缓冲区大小
log.dirs=/usr/local/kafka/logs       
#60行，kafka运行日志存放的路径，也是数据存放的路径
num.partitions=1    
#65行，topic在当前broker上的默认分区个数，会被topic创建时的指定参数覆盖
num.recovery.threads.per.data.dir=1    
#69行，用来恢复和清理data下数据的线程数量
log.retention.hours=168    
#103行，segment文件（数据文件）保留的最长时间，单位为小时，默认为7天，超时将被删除
log.segment.bytes=1073741824    
#110行，一个segment文件最大的大小，默认为 1G，超出将新建一个新的segment文件
zookeeper.connect=192.168.27.17:2181,192.168.27.21:2181,192.168.27.22:2181    
●123行，配置连接Zookeeper集群地址

#修改环境变量
vim /etc/profile

export KAFKA_HOME=/usr/local/kafka
export PATH=$PATH:$KAFKA_HOME/bin
source /etc/profile

#配置 Zookeeper 启动脚本
vim /etc/init.d/kafka

#!/bin/bash
#chkconfig:2345 22 88
#description:Kafka Service Control Script
KAFKA_HOME='/usr/local/kafka'
case $1 in
start)
    echo "---------- Kafka 启动 ------------"
    ${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${KAFKA_HOME}/config/server.properties
;;
stop)
    echo "---------- Kafka 停止 ------------"
    ${KAFKA_HOME}/bin/kafka-server-stop.sh
;;
restart)
    $0 stop
    $0 start
;;
status)
    echo "---------- Kafka 状态 ------------"
    count=$(ps -ef | grep kafka | egrep -cv "grep|$$")
    if [ "$count" -eq 0 ];then
        echo "kafka is not running"
    else
        echo "kafka is running"
    fi
;;
*)
    echo "Usage: $0 {start|stop|restart|status}"
esac

#设置开机自启

chmod +x /etc/init.d/kafka
chkconfig --add kafka

#分别启动 Kafka

service kafka start

2.2 Kafka 命令行操作


#创建topic

kafka-topics.sh --create --zookeeper 192.168.27.17:2181,192.168.27.21:2181,192.168.27.22:2181 --replication-factor 2 --partitions 3 --topic test

kafka-topics.sh --create --zookeeper 192.168.27.17:2181,192.168.27.20:2181,192.168.27.21:2181 --replication-factor 2 --partitions 3 --topic test

#查看当前服务器中的所有 topic

kafka-topics.sh --list --zookeeper 192.168.27.17:2181,192.168.27.21:2181,192.168.27.22:2181

#查看某个 topic 的详情

kafka-topics.sh  --describe --zookeeper 192.168.27.17:2181,192.168.27.21:2181,192.168.27.22:2181

#发布消息

kafka-console-producer.sh --broker-list 192.168.27.17:9092,192.168.27.21:9092,192.168.27.22:9092  --topic test

#消费消息

kafka-console-consumer.sh --bootstrap-server 192.168.27.17:9092,192.168.27.21:9092,192.168.27.22:9092 --topic test --from-beginning

#修改分区数

kafka-topics.sh --zookeeper 192.168.27.17:2181,192.168.27.21:2181,192.168.27.22:2181 --alter --topic test --partitions 6

#删除 topic

kafka-topics.sh --delete --zookeeper 192.168.27.17:2181,192.168.27.21:2181,192.168.27.22:2181 --topic test


 

举报

相关推荐

zookeeper+kafka

数据zookeeperkafkaOpenStack云计算

部署zookeeper+kafka

c++开发语言经验分享学习其他笔记

zookeeper+kafka群集

zookeeperkafka分布式

Zookeeper+Kafka集群

服务器kafkazookeeper

##zookeeper+kafka集群搭建###

hadoopkafkavimLinux系统/运维yyds干货盘点

搭建zookeeper+kafka集群

zookeeperjava服务器jQuery前端开发

ZOOKEEPER+KAFKA消息队列群集

npm

zookeeper+kafka的消息队列

kotlin开发语言

zookeeper+kafka集群的安装

kafkaspringzookeeper云平台云计算

Zookeeper+kafka的应用及部署

dubbozookeeper分布式报错超时
0 条评论