文章目录
- 一、环境分布
- 二、实战
- 1. kafka下载
- 2. 解压
- 3. 配置
- 4. 编写启动脚本
- 5. 编写关闭脚本
- 6. 赋予脚本可执行权限
- 7. 脚本使用案例
- 三、Config配置
- 四、Consumer配置
- 五、Producer配置
很多小伙伴问我，为什么不用最新版本的kafka呢？关于这个问题，都是基于项目和场景来说的，给小伙伴举几个例子哈！
以前的项目用的jdk1.6适配的kafka版本是0.8.2.1
现在一个新的项目，技术也支持，jdk1.8建议选择一个新的并且稳定的kafka版本
一、环境分布
软件 | 版本 |
jdk | 1.8 |
kafka | kafka_2.9.2-0.8.2.1.tgz |
二、实战
kafka官网地址：
http://kafka.apache.org/downloads
1. kafka下载
wget https://archive.apache.org/dist/kafka/0.8.2.1/kafka_2.9.2-0.8.2.1.tgz
2. 解压
tar –zxvf kafka_2.9.2-0.8.2.1.tgz
3. 配置
cd kafka_2.9.2-0.8.2.1/config/
vi server.properties
添加一下内容:
broker.id=0
#端口号
port=9092
#服务器IP地址，修改为自己的服务器IP
host.name=172.30.0.9
#日志存放路径，上面创建的目录
log.dirs=/usr/local/logs/kafka
#zookeeper地址和端口，单机配置部署，localhost:2181
zookeeper.connect=localhost:2181
4. 编写启动脚本
vi kafkastart.sh
添加以下内容：
#启动zookeeper
/app/kafka_2.9.2-0.8.2.1/bin/zookeeper-server-start.sh /app/kafka_2.9.2-0.8.2.1/config/zookeeper.properties &
#等3秒后执行
sleep 3
#启动kafka
/app/kafka_2.9.2-0.8.2.1/bin/kafka-server-start.sh /app/kafka_2.9.2-0.8.2.1/config/server.properties &
5. 编写关闭脚本
vi kafkastop.sh
添加以下内容：
#关闭zookeeper
/app/kafka_2.9.2-0.8.2.1/bin/zookeeper-server-stop.sh /app/kafka_2.9.2-0.8.2.1/config/zookeeper.properties &
#等3秒后执行
sleep 3
#关闭kafka
/app/kafka_2.9.2-0.8.2.1/bin/kafka-server-stop.sh /app/kafka_2.9.2-0.8.2.1/config/server.properties &
6. 赋予脚本可执行权限
chmod 777 kafkastart.sh kafkastop.sh
或者
chmod +x kafkastart.sh kafkastop.sh
7. 脚本使用案例
#启动脚本
./kafkastart.sh
#关闭脚本
./kafkastop.sh
记得开启防火墙9092和2181端口
注：此单机版使用的是kafka自带的zookeeper
三、Config配置
下表列出了Boker的重要的配置参数， 更多的配置请参考 kafka.server.KafkaConfig
name | 默认值 | 描述 |
brokerid | 0 | 每一个boker都有一个唯一的id作为它们的名字。 这就允许boker切换到别的主机/端口上， consumer依然知道 |
enable.zookeeper | true | 允许注册到zookeeper |
log.flush.interval.messages | Long.MaxValue | 在数据被写入到硬盘和消费者可用前最大累积的消息的数量 |
log.flush.interval.ms | Long.MaxValue | 在数据被写入到硬盘前的最大时间 |
log.flush.scheduler.interval.ms | Long.MaxValue | 检查数据是否要写入到硬盘的时间间隔。 |
log.retention.hours | 168 | 控制一个log保留多长个小时 |
log.retention.bytes | -1 | 控制log文件最大尺寸 |
log.cleaner.enable | false | 是否log cleaning |
log.cleanup.policy | delete | delete还是compat. 其它控制参数还包括log.cleaner.threads，log.cleaner.io.max.bytes.per.second，log.cleaner.dedupe.buffer.size，log.cleaner.io.buffer.size，log.cleaner.io.buffer.load.factor，log.cleaner.backoff.ms，log.cleaner.min.cleanable.ratio，log.cleaner.delete.retention.ms |
log.dir | /tmp/kafka-logs | 指定log文件的根目录 |
log.segment.bytes | 1024*1024 | 单一的log segment文件大小 |
log.roll.hours | 24 * 7 | 开始一个新的log文件片段的最大时间 |
message.max.bytes | 1000000 + MessageSet.LogOverhead | 一个socket 请求的最大字节数 |
num.network.threads | 3 | 处理网络请求的线程数 |
num.io.threads | 8 | 处理IO的线程数 |
background.threads | 10 | 后台线程序 |
num.partitions | 1 | 默认分区数 |
socket.send.buffer.bytes | 102400 | socket SO_SNDBUFF参数 |
socket.receive.buffer.bytes | 102400 | socket SO_RCVBUFF参数 |
zookeeper.connect | localhost:2182/kafka | 指定zookeeper连接字符串， 格式如hostname:port/chroot。chroot是一个namespace |
zookeeper.connection.timeout.ms | 6000 | 指定客户端连接zookeeper的最大超时时间 |
zookeeper.session.timeout.ms | 6000 | 连接zk的session超时时间 |
zookeeper.sync.time.ms | 2000 | zk follower落后于zk leader的最长时间 |
四、Consumer配置
下表列出了high-level consumer的重要的配置参数。更多的配置请参考 kafka.consumer.ConsumerConfig
name | 默认值 | 描述 |
groupid | groupid | 一个字符串用来指示一组consumer所在的组 |
socket.timeout.ms | 30000 | socket超时时间 |
socket.buffersize | 64*1024 | socket receive buffer |
fetch.size | 300 * 1024 | 控制在一个请求中获取的消息的字节数。 这个参数在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代 |
backoff.increment.ms | 1000 | 这个参数避免在没有新数据的情况下重复频繁的拉数据。 如果拉到空数据，则多推后这个时间 |
queued.max.message.chunks | 2 | high level consumer内部缓存拉回来的消息到一个队列中。 这个值控制这个队列的大小 |
autocommit.enable | true | 如果true,consumer定期地往zookeeper写入每个分区的offset |
auto.commit.interval.ms | 10000 | 往zookeeper上写offset的频率 |
auto.offset.reset | smallnest | 如果offset出了返回，则 smallest : 自动设置reset到最小的offset. largest : 自动设置offset到最大的offset. anything else : 否则抛出异常. |
consumer.timeout.ms | -1 | 默认-1,consumer在没有新消息时无限期的block。如果设置一个正值， 一个超时异常会抛出 |
rebalance.retries.max | 4 | rebalance时的最大尝试次数 |
五、Producer配置
下表列出了producer的重要的参数。更多的配置请参考 kafka.producer.ProducerConfig
name | 默认值 | 描述 |
serializer.class | kafka.serializer.DefaultEncoder | 必须实现kafka.serializer.Encoder 接口，将T类型的对象encode成kafka message |
key.serializer.class | serializer.class | key对象的serializer类 |
partitioner.class | kafka.producer.DefaultPartitioner | 必须实现kafka.producer.Partitioner ，根据Key提供一个分区策略 |
producer.type | sync | 指定消息发送是同步还是异步。异步asyc成批发送用kafka.producer.AyncProducer， 同步sync用kafka.producer.SyncProducer |
metadata.broker.list | boker list | 使用这个参数传入boker和分区的静态信息，如host1:port1,host2:port2, 这个可以是全部boker的一部分 |
compression.codec | NoCompressionCodec | 消息压缩，默认不压缩 |
compressed.topics | null | 在设置了压缩的情况下，可以指定特定的topic压缩，为指定则全部压缩 |
message.send.max.retries | 3 | 消息发送最大尝试次数 |
retry.backoff.ms | 300 | 每次尝试增加的额外的间隔时间 |
topic.metadata.refresh.interval.ms | 600000 | 定期的获取元数据的时间。当分区丢失，leader不可用时producer也会主动获取元数据，如果为0，则每次发送完消息就获取元数据，不推荐。如果为负值，则只有在失败的情况下获取元数据。 |
queue.buffering.max.ms | 5000 | 在producer queue的缓存的数据最大时间，仅仅for asyc |
queue.buffering.max.message | 10000 | producer 缓存的消息的最大数量，仅仅for asyc |
queue.enqueue.timeout.ms | -1 | 0当queue满时丢掉，负值是queue满时block,正值是queue满时block相应的时间，仅仅for asyc |
batch.num.messages | 200 | 一批消息的数量，仅仅for asyc |
