作者:低调酥紫_631 | 来源:互联网 | 2024-11-07 12:22
Kafka是由Apache软件基金会开发的高性能分布式消息系统,支持高吞吐量的发布和订阅功能,主要使用Scala和Java编写。本文将深入解析Kafka的安装与配置过程,为程序员提供详尽的操作指南,涵盖从环境准备到集群搭建的每一个关键步骤。
Kafka是由Apache软件基金会开发的一个高吞吐量的分布式发布订阅消息系统,由Scala和Java编写。官网地址:http://kafka.apache.org
0.基本概念
Broker:Kafka集群包含一个或多个服务器,这种服务器被称为broker。
Topic:每条发布到Kafka集群的消息都有一个主题名称,这个主题名称就被称为Topic。
Partition:Partition是物理上的概念,每个Topic包含一个或多个Partition。
Producer:消息生产者,负责发布消息到Kafka broker。
Consumer:消息消费者,向Kafka broker读取消息的客户端。
Consumer Group:每个Consumer属于一个特定的Consumer Group,group name可单独设定,若不设定则属于默认的group。
1.安装步骤
系统:Centos7.2
JDK: java1.8
另外需要安装zookeeper,可以使用已有的zookeeper服务,新版的kafka已内置了一个zookeeper环境,也可以直接使用。
(1)下载
kafka安装包下载地址:http://mirrors.shu.edu.cn/apache/kafka/2.1.0/kafka_2.11-2.1.0.tgz
/bin 可执行脚本目录
/config 配置文件目录
(2)启动zookeeper
(3)配置kafka相关属性
(4)启动服务
(5)检查服务
2.集群配置
所谓的kafka集群就是指多个broker组成的集群,通过zookeeper来进行管理。以下在本机部署三个broker组成的集群。
首先将config/server.properties的复制三份,分别命名为server-0.properties、server-1.properties、server-2.properties,分别配置如下:
server-0.properties:
server-1.properties:
server-2.properties:
然后分别都启动就可以了:
查看是否启动了:
3.客户端调用
客户端使用.net core测试,使用官网推荐的confluent-kafka-dotnet类库
生产者代码:通过192.168.31.222:9092发布消息
消费者代码:通过192.168.31.222:9093订阅接收消息