当前位置: 开发笔记 > 编程语言 > 正文

大数据Hadoop之——Kafka鉴权认证（Kafkakerberos认证+kafka账号密码认证+CDHKerberos认证）

作者：Huiying_Liu | 来源：互联网 | 2023-09-01 18:21

目录一、Kerberos概述与安装二、KafkaKerberos认证1）创建用户和生成用户keytab2）Kerberos相关配置3）Kafka服务端配置1、修改server.pr

一、Kerberos概述与安装
二、Kafka Kerberos认证
- 1）创建用户和生成用户keytab
- 2）Kerberos 相关配置
- 3）Kafka 服务端配置
  - 1、修改server.properties
  - 2、修改kafka-server-start.sh
- 4）Kafka 客户端配置
  - 1、配置client.properties
  - 2、配置kafka-client-jaas.conf
  - 3、配置kafka-topics.sh等操作文件
- 5）将配置文件copy到其它机器上
- 6）测试验证
  - 1、查看topic 列表
  - 2、创建topic
  - 3、查看topic详情
  - 4、删除topic
  - 4、生产/消费
  - 5、查看消费组积压
四、Kafka 用户密码认证（SASL/PLAIN ）
- 1）Kafka 服务端配置
  - 1、配置jaas
  - 2、配置服务启动参数（kafka-server-start.sh）
  - 3、配置服务启动文件（server.properties）
- 2）Kafka 客户端配置
  - 1、创建客户端认证配置文件
  - 2、在配置文件中添加属性
  - 3、配置kafka-topics.sh等操作文件
- 3）测试验证
  - 1、查看topic列表
  - 2、创建topic
  - 3、查看topic详情
  - 4、删除topic
  - 4、生产/消费
  - 5、查看消费组积压
五、CDH 启用Kerberos认证
- 1）安装Kerberos
- 2）为CM创建管理员主体/实例
- 3）在CM上开启Kerberos认证
- 3）简单使用
  - 1、在Kerberos数据库中创建用户主体/实例
  - 2、进行用户认证访问HDFS

一、Kerberos概述与安装

Kerberos概述与安装可以参考我之前的文章：Kerberos认证原理与环境部署

二、Kafka Kerberos认证

Kafka安装可以参考我以前的文章：

大数据Hadoop之——Kafka 图形化工具 EFAK（EFAK环境部署）

分布式开源协调服务——Zookeeper

Kafka Kerberos认证官方文档：https://kafka.apache.org/31/documentation.html#security_sasl

Kafka 是服务，所以这里使用的是服务principal，不清楚的小伙伴可以看我上面的文章。格式如下：

Service/Hostname@REALM

【温馨提示】SASL：简单验证和安全层 (Simple Authentication and Security Layer,)

1）创建用户和生成用户keytab

在安装 Kerberos 的机器上进入 kadmin（Kerberos 服务端上使用 kadmin.local，安装了 Kerberos Client 的机器上可以使用 kadmin），然后执行如下命令分别创建服务端和客户端的 keytab：

# 创建服务端的keytab，在不同的机器上使用不同主机名对应的keytab文件，格式：principal/hostname@realm # 【温馨提示】kafka-server要与下面的sasl.kerberos.service.name一致。 $ kadmin.local -q "add_principal -randkey kafka-server/hadoop-node1@HADOOP.COM" # 创建客户端的keytab（hadoop-node2） $ kadmin.local -q "add_principal -randkey kafka-server/hadoop-node2@HADOOP.COM" # 创建客户端的keytab（hadoop-node3） $ kadmin.local -q "add_principal -randkey kafka-server/hadoop-node3@HADOOP.COM" # 创建客户端用户 $ kadmin.local -q "add_principal -randkey kafka-client@HADOOP.COM" # 导出keytab文件，注意这里只能是kafka-server.keytab名字，换成其它名字会报错。这里为了区分，先起另外的名字，在其它节点的时候修改回kafka-server.keytab $ kadmin.local -q "xst -k /root/kafka-server.keytab kafka-server/hadoop-node1@HADOOP.COM" $ kadmin.local -q "xst -k /root/kafka-server-node2.keytab kafka-server/hadoop-node2@HADOOP.COM" $ kadmin.local -q "xst -k /root/kafka-server-node3.keytab kafka-server/hadoop-node3@HADOOP.COM" $ kadmin.local -q "xst -k /root/kafka-client.keytab kafka-client@HADOOP.COM" # 验证 $ kinit -kt /root/kafka-server.keytab kafka-server/hadoop-node1 $ kinit -kt /root/kafka-server-node2.keytab kafka-server/hadoop-node2 $ kinit -kt /root/kafka-server-node3.keytab kafka-server/hadoop-node3 $ kinit -kt /root/kafka-client.keytab kafka-client

2）Kerberos 相关配置

拷贝 krb5.conf 及kafka.keytab 文件都放到 Kafka 的 $KAFKA_HOME/config/kerberos 目录下(kerberos 目录需新建)。

$ mkdir $KAFKA_HOME/config/kerberos $ cp /root/kafka*.keytab $KAFKA_HOME/config/kerberos/ # 将krd5.conf也复制到$KAFKA_HOME/config/kerberos目录下 $ cp /etc/krb5.conf $KAFKA_HOME/config/kerberos/

3）Kafka 服务端配置

1、修改server.properties

复制 $KAFKA_HOME/config/server.properties（复制动作能帮助我们在认证/非认证模式自由切换）重命名为 $KAFKA_HOME/config/server-sasl.properties

$ scp $KAFKA_HOME/config/server.properties $KAFKA_HOME/config/server-sasl.properties

增加或修复如下配置：

# 【温馨提示】其中sasl.kerberos.service.name要和principal的名称相同 listeners=SASL_PLAINTEXT://0.0.0.0:19092 advertised.listeners=SASL_PLAINTEXT://hadoop-node1:19092 security.inter.broker.protocol=SASL_PLAINTEXT sasl.mechanism.inter.broker.protocol=GSSAPI sasl.enabled.mechanisms=GSSAPI sasl.kerberos.service.name=kafka-server

新建 kafka-server-jaas.conf 文件，该文件也放到 Kafka 的 $KAFKA_HOME/config/kerberos/ 目录下：

$ cat > $KAFKA_HOME/config/kerberos/kafka-server-jaas.conf <KafkaServer { com.sun.security.auth.module.Krb5LoginModule required useKeyTab=true //不同的主机，需修改成不同的keytab文件 keyTab="/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/kafka-server.keytab" storeKey=true useTicketCache=false //不同的主机，需修改为本机的主机名 principal="kafka-server/hadoop-node1@HADOOP.COM"; }; //Zookeeper client authentication，配置跟KafkaServer 一样，如果zookeeper开启了kerberos认证，就得加这段配置，我这没开，所以先注释了 //Client { // com.sun.security.auth.module.Krb5LoginModule required // useKeyTab=true // 不同的主机，需修改成不同的keytab文件 // keyTab="/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/kafka-server.keytab" // storeKey=true // useTicketCache=false // 不同的主机，需修改为本机的主机名 // principal="kafka-server/hadoop-node1@HADOOP.COM"; //}; EOF

2、修改kafka-server-start.sh

复制 bin/kafka-server-start.sh 脚本重命名为 bin/kafka-server-start-sasl.sh

$ cp $KAFKA_HOME/bin/kafka-server-start.sh $KAFKA_HOME/bin/kafka-server-start-sasl.sh

在倒数第二行增加如下配置（bin/kafka-server-start-sasl.sh）：

export KAFKA_OPTS="-Dzookeeper.sasl.client=false -Dzookeeper.sasl.client.username=zk-server -Djava.security.krb5.cOnf=/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/krb5.conf -Djava.security.auth.login.cOnfig=/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/kafka-server-jaas.conf"

【温馨提示】如果 Zookeeper 开启 Kerberos 认证，则这里 zookeeper.sasl.client 就得设为 true。

4）Kafka 客户端配置

1、配置client.properties

该配置主要为了使用 bin/kafka-topics.sh、bin/kafka-console-consumer.sh、kafka-console-producer.sh 等命令。

新建 client.properties 文件，该文件也放到 Kafka 的 $KAFKA_HOME/config/kerberos 目录下：

$ cat > $KAFKA_HOME/config/kerberos/client.properties <security.protocol=SASL_PLAINTEXT sasl.mechanism=GSSAPI sasl.kerberos.service.name=kafka-server EOF

2、配置kafka-client-jaas.conf

新建 kafka-client-jaas.conf 文件，该文件也放到 Kafka 的 config/kerberos 目录下：

$ cat > $KAFKA_HOME/config/kerberos/kafka-client-jaas.conf <KafkaClient { com.sun.security.auth.module.Krb5LoginModule required useKeyTab=true keyTab="/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/kafka-client.keytab" storeKey=true useTicketCache=false principal="kafka-client@HADOOP.COM"; }; EOF

3、配置kafka-topics.sh等操作文件

复制 bin/kafka-topics.sh、bin/kafka-console-producer.sh、bin/kafka-console-consumer.sh 脚本，分别重命名为 bin/kafka-topics-sasl.sh、bin/kafka-console-producer-sasl.sh、bin/kafka-console-consumer-sasl.sh

$ cp $KAFKA_HOME/bin/kafka-topics.sh $KAFKA_HOME/bin/kafka-topics-sasl.sh $ cp $KAFKA_HOME/bin/kafka-console-producer.sh $KAFKA_HOME/bin/kafka-console-producer-sasl.sh $ cp $KAFKA_HOME/bin/kafka-console-consumer.sh $KAFKA_HOME/bin/kafka-console-consumer-sasl.sh $ cp $KAFKA_HOME/bin/kafka-consumer-groups.sh $KAFKA_HOME/bin/kafka-consumer-groups-sasl.sh

在倒数第二行增加如下配置（bin/kafka-xxx.sh）：

export KAFKA_OPTS="-Djava.security.krb5.cOnf=/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/krb5.conf -Djava.security.auth.login.cOnfig=/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/kerberos/kafka-client-jaas.conf"

【温馨提示】上面创建了两个keytab文件，但是权限都是一样，都可以操作所有，所以在企业生成环境中，可以考虑把客户端的用户权限控制一下。

5）将配置文件copy到其它机器上

# kafka kerberos配置 $ scp -r $KAFKA_HOME/config/kerberos hadoop-node2:$KAFKA_HOME/config/ $ scp -r $KAFKA_HOME/config/kerberos hadoop-node3:$KAFKA_HOME/config/ # kafka server启动脚本 $ scp $KAFKA_HOME/bin/kafka-server-start-sasl.sh hadoop-node2:$KAFKA_HOME/bin/ $ scp $KAFKA_HOME/bin/kafka-server-start-sasl.sh hadoop-node3:$KAFKA_HOME/bin/ # 【温馨提示】注意修改broker.id、advertised.listeners # kafka server 配置 $ scp $KAFKA_HOME/config/server-sasl.properties hadoop-node2:$KAFKA_HOME/config/ $ scp $KAFKA_HOME/config/server-sasl.properties hadoop-node3:$KAFKA_HOME/config/ # topic操作 $ scp $KAFKA_HOME/bin/kafka-topics-sasl.sh hadoop-node2:$KAFKA_HOME/bin/ $ scp $KAFKA_HOME/bin/kafka-topics-sasl.sh hadoop-node3:$KAFKA_HOME/bin/ # 生产者 $ scp $KAFKA_HOME/bin/kafka-console-producer-sasl.sh hadoop-node2:$KAFKA_HOME/bin/ $ scp $KAFKA_HOME/bin/kafka-console-producer-sasl.sh hadoop-node3:$KAFKA_HOME/bin/ # 消费者 $ scp $KAFKA_HOME/bin/kafka-console-consumer-sasl.sh hadoop-node2:$KAFKA_HOME/bin/ $ scp $KAFKA_HOME/bin/kafka-console-consumer-sasl.sh hadoop-node3:$KAFKA_HOME/bin/ # 消费组 $ scp $KAFKA_HOME/bin/kafka-consumer-groups-sasl.sh hadoop-node2:$KAFKA_HOME/bin/ $ scp $KAFKA_HOME/bin/kafka-consumer-groups-sasl.sh hadoop-node3:$KAFKA_HOME/bin/

6）测试验证

1、查看topic 列表

运行 bin/kafka-server-start-sasl.sh 启动 Kafka 集群：

$ ./bin/kafka-server-start-sasl.sh config/server-sasl.properties # 还是跟之前的一样查询，会发现已经不能查询了 $ ./bin/kafka-topics-sasl.sh --list --bootstrap-server hadoop-node1:19092

服务端报的错误

客户端报的错误

正确访问方式

$ cd $KAFKA_HOME $ ./bin/kafka-topics-sasl.sh --list --bootstrap-server hadoop-node1:19092 --command-config config/kerberos/client.properties

上面是只启动了一台机器，现在验证ok了，就可以把三台kafka的机器都启动，要不然下面的实验会失败，因为之前kafka配置的就是集群模式。如果只启动一台，会报如下错误：

replication factor: 3 larger than available brokers: 1

【问题提示】需要修改

需要注意的是得把kafka-server-node2.keytab和kafka-server-node3.keytab修改回kafka-server.keytab

还得把kafka-server-jaas.conf里面的主机名改成本机主机名

修改config/server-sasl.properties文件里的broker.id和advertised.listeners

# hadoop-ndoe2 $ cd $KAFKA_HOME $ mv config/kerberos/kafka-server-node2.keytab config/kerberos/kafka-server.keytab $ vi config/kerberos/kafka-server-jaas.conf $ vi config/server-sasl.properties $ ./bin/kafka-server-start-sasl.sh -daemon config/server-sasl.properties # hadoop-ndoe2 $ cd $KAFKA_HOME $ mv config/kerberos/kafka-server-node3.keytab config/kerberos/kafka-server.keytab $ vi config/kerberos/kafka-server-jaas.conf $ vi config/server-sasl.properties $ ./bin/kafka-server-start-sasl.sh -daemon config/server-sasl.properties

2、创建topic

$ cd $KAFKA_HOME $ ./bin/kafka-topics-sasl.sh --create --topic test-sasl --bootstrap-server hadoop-node1:19092 --partitions 3 --replication-factor 3 --config retention.ms=259200000 --command-config config/kerberos/client.properties

3、查看topic详情

$ cd $KAFKA_HOME $ ./bin/kafka-topics-sasl.sh --bootstrap-server hadoop-node1:19092 --describe --topic test-sasl --command-config config/kerberos/client.properties

4、删除topic

$ cd $KAFKA_HOME $ ./bin/kafka-topics-sasl.sh --delete --topic test-sasl --bootstrap-server hadoop-node1:19092 --command-config config/kerberos/client.properties

4、生产/消费

运行 kafka-console-producer-sasl.sh 生产消息：

$ cd $KAFKA_HOME $ ./bin/kafka-console-producer-sasl.sh --bootstrap-server hadoop-node1:19092 --topic test-sasl --producer.config config/kerberos/client.properties {"id":"1","name":"n1","age":"20"} {"id":"2","name":"n2","age":"21"} {"id":"3","name":"n3","age":"22"}

运行 bin/kafka-console-consumer-sasl.sh 消费消息：

$ cd $KAFKA_HOME $ ./bin/kafka-console-consumer-sasl.sh --bootstrap-server hadoop-node1:19092 --topic test-sasl --from-beginning --consumer.config config/kerberos/client.properties #消费组 $ ./bin/kafka-console-consumer-sasl.sh --bootstrap-server hadoop-node1:19092 --topic test-sasl --from-beginning --group test-sasl --consumer.config config/kerberos/client.properties

5、查看消费组积压

$ cd $KAFKA_HOME $ ./bin/kafka-consumer-groups-sasl.sh --bootstrap-server hadoop-node1:19092 --describe --group test-sasl --command-config config/kerberos/client.properties

四、Kafka 用户密码认证（SASL/PLAIN ）

SASL/PLAIN 是一种简单的用户名/密码认证机制，通常与 TLS 一起用于加密以实现安全认证。Kafka 支持 SASL/PLAIN 的默认实现，可以按照此处所述进行扩展以供生产使用。

1）Kafka 服务端配置

1、配置jaas

在每个 Kafka 代理的配置目录中添加一个经过适当修改的 JAAS 文件，类似于下面的文件，我们将其命名为 kafka_server_jaas.conf 以用于本示例：

$ mkdir $KAFKA_HOME/config/userpwd $ cat >$KAFKA_HOME/config/userpwd/kafka_server_jaas.conf <KafkaServer { org.apache.kafka.common.security.plain.PlainLoginModule required username="admin" password="adminpasswd" user_admin="adminpasswd" user_kafka="123456" user_producer="producerpwd" user_cOnsumer="consumerpwd"; }; EOF

该文件中username和password是定义zookeeper集群节点之间认证的用户名和密码

user_开头配置的用户kafka和密码kafka是提供给外部应用连接zookeeper使用的，后面kafka使用此用户连接zookeeper。上面配置的user_kafka="123456"，用户为kafka，密码为123456

username为admin的用户，和user为admin的用户，密码要保持一致，否则会认证失败

上述配置中，创建了三个用户，分别为admin、producer和consumer（创建多少个用户，可根据业务需要配置，用户名和密码可自定义设置）

2、配置服务启动参数（kafka-server-start.sh）

$ cd $KAFKA_HOME $ cp $KAFKA_HOME/bin/kafka-server-start.sh $KAFKA_HOME/bin/kafka-server-start-pwd.sh $ vi $KAFKA_HOME/bin/kafka-server-start-pwd.sh

在倒数第二行增加如下配置（bin/kafka-server-start-pwd.sh）：

export KAFKA_OPTS="-Dzookeeper.sasl.client=false -Dzookeeper.sasl.client.username=zk-server -Djava.security.auth.login.cOnfig=/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/userpwd/kafka_server_jaas.conf"

3、配置服务启动文件（server.properties）

$ cp $KAFKA_HOME/config/server.properties $KAFKA_HOME/config/server-pwd.properties

添加或修改如下配置：

listeners=SASL_PLAINTEXT://0.0.0.0:19092 # 不同的机器修改成对应的主机名 advertised.listeners=SASL_PLAINTEXT://hadoop-node1:19092 security.inter.broker.protocol=SASL_PLAINTEXT sasl.mechanism.inter.broker.protocol=PLAIN sasl.enabled.mechanisms=PLAIN authorizer.class.name=kafka.security.authorizer.AclAuthorizer allow.everyone.if.no.acl.found=true

2）Kafka 客户端配置

1、创建客户端认证配置文件

$ cat >$KAFKA_HOME/config/userpwd/kafka_client_jaas.conf <KafkaClient { org.apache.kafka.common.security.plain.PlainLoginModule required username="kafka" password="123456"; }; EOF

2、在配置文件中添加属性

在 client.properties、producer.properties 、 consumer.properties 中为每个客户端配置 JAAS 配置属性。

新增client.properties

$ cat >$KAFKA_HOME/config/userpwd/client.properties <security.protocol=SASL_PLAINTEXT sasl.mechanism=PLAIN EOF

配置producer.properties

$ cp $KAFKA_HOME/config/producer.properties $KAFKA_HOME/config/producer-pwd.properties # 在文件末尾添加 security.protocol=SASL_SSL sasl.mechanism=PLAIN

配置consumer.properties

$ cp $KAFKA_HOME/config/consumer.properties $KAFKA_HOME/config/consumer-pwd.properties # 在文件末尾添加 security.protocol=SASL_PLAINTEXT sasl.mechanism=PLAIN

3、配置kafka-topics.sh等操作文件

$ cp $KAFKA_HOME/bin/kafka-topics.sh $KAFKA_HOME/bin/kafka-topics-pwd.sh $ cp $KAFKA_HOME/bin/kafka-console-producer.sh $KAFKA_HOME/bin/kafka-console-producer-pwd.sh $ cp $KAFKA_HOME/bin/kafka-console-consumer.sh $KAFKA_HOME/bin/kafka-console-consumer-pwd.sh $ cp $KAFKA_HOME/bin/kafka-consumer-groups.sh $KAFKA_HOME/bin/kafka-consumer-groups-pwd.sh

在倒数第二行增加如下配置（bin/kafka-xxx.sh）：

export KAFKA_OPTS="-Djava.security.auth.login.cOnfig=/opt/bigdata/hadoop/server/kafka_2.13-3.1.1/config/userpwd/kafka_client_jaas.conf"

3）测试验证

启动服务

$ cd $KAFKA_HOME $ ./bin/kafka-server-start-pwd.sh config/server-pwd.properties

1、查看topic列表

$ cd $KAFKA_HOME $ ./bin/kafka-topics-pwd.sh --list --bootstrap-server hadoop-node1:19092 --command-config config/userpwd/client.properties

上面已经在单机上验证是没问题了，现在就启动三台机器在验证

# 首先将修改的文件copy到另外两台机器上 # kafka 账号密码认证配置 scp -r $KAFKA_HOME/config/userpwd hadoop-node2:$KAFKA_HOME/config/ scp -r $KAFKA_HOME/config/userpwd hadoop-node3:$KAFKA_HOME/config/ # kafka server启动脚本 scp $KAFKA_HOME/bin/kafka-server-start-pwd.sh hadoop-node2:$KAFKA_HOME/bin/ scp $KAFKA_HOME/bin/kafka-server-start-pwd.sh hadoop-node3:$KAFKA_HOME/bin/ # 【温馨提示】注意修改broker.id、advertised.listeners # kafka server 配置 scp $KAFKA_HOME/config/server-pwd.properties hadoop-node2:$KAFKA_HOME/config/ scp $KAFKA_HOME/config/server-pwd.properties hadoop-node3:$KAFKA_HOME/config/ # topic scp $KAFKA_HOME/bin/kafka-topics-pwd.sh hadoop-node2:$KAFKA_HOME/bin/ scp $KAFKA_HOME/bin/kafka-topics-pwd.sh hadoop-node3:$KAFKA_HOME/bin/ # 生成者 scp $KAFKA_HOME/bin/kafka-console-producer-pwd.sh hadoop-node2:$KAFKA_HOME/bin/ scp $KAFKA_HOME/bin/kafka-console-producer-pwd.sh hadoop-node3:$KAFKA_HOME/bin/ # 消费者 scp $KAFKA_HOME/bin/kafka-console-consumer-pwd.sh hadoop-node2:$KAFKA_HOME/bin/ scp $KAFKA_HOME/bin/kafka-console-consumer-pwd.sh hadoop-node3:$KAFKA_HOME/bin/ # 消费组 scp $KAFKA_HOME/bin/kafka-consumer-groups-pwd.sh hadoop-node2:$KAFKA_HOME/bin/ scp $KAFKA_HOME/bin/kafka-consumer-groups-pwd.sh hadoop-node3:$KAFKA_HOME/bin/

启动服务

$ cd $KAFKA_HOME $ ./bin/kafka-server-start-pwd.sh -daemon config/server-pwd.properties

2、创建topic

$ cd $KAFKA_HOME $ ./bin/kafka-topics-pwd.sh --create --topic test-pwd --bootstrap-server hadoop-node1:19092 --partitions 3 --replication-factor 3 --config retention.ms=259200000 --command-config config/userpwd/client.properties

3、查看topic详情

$ cd $KAFKA_HOME $ ./bin/kafka-topics-pwd.sh --bootstrap-server hadoop-node1:19092 --describe --topic test-pwd --command-config config/userpwd/client.properties

4、删除topic

$ cd $KAFKA_HOME $ ./bin/kafka-topics-pwd.sh --delete --topic test-pwd --bootstrap-server hadoop-node1:19092 --command-config config/userpwd/client.properties

4、生产/消费

运行 kafka-console-producer-sasl.sh 生产消息：

$ cd $KAFKA_HOME $ ./bin/kafka-console-producer-pwd.sh --bootstrap-server hadoop-node1:19092 --topic test-pwd --producer.config config/userpwd/client.properties {"id":"1","name":"n1","age":"20"} {"id":"2","name":"n2","age":"21"} {"id":"3","name":"n3","age":"22"}

运行 bin/kafka-console-consumer-sasl.sh 消费消息：

$ cd $KAFKA_HOME $ ./bin/kafka-console-consumer-pwd.sh --bootstrap-server hadoop-node1:19092 --topic test-pwd --from-beginning --consumer.config config/userpwd/client.properties #消费组 $ ./bin/kafka-console-consumer-pwd.sh --bootstrap-server hadoop-node1:19092 --topic test-pwd --from-beginning --group test-sasl --consumer.config config/userpwd/client.properties

5、查看消费组积压

$ cd $KAFKA_HOME $ ./bin/kafka-consumer-groups-pwd.sh --bootstrap-server hadoop-node1:19092 --describe --group test-pwd --command-config config/userpwd/client.properties

五、CDH 启用Kerberos认证

CDH的安装可以参考我之前的文章：大数据Hadoop之——Cloudera Hadoop（CM 6.3.1+CDH 6.3.2环境部署）

1）安装Kerberos

Kerberos详解安装讲解可以参考我之前的文章：Kerberos认证原理与环境部署

2）为CM创建管理员主体/实例

$ kadmin.local -q "add_principal cloudera-scm/admin" 输入密码：123456

3）在CM上开启Kerberos认证

全选

通过CM管理krb5.conf，这里我已经提前配置好了，所以不选了。直接下一步继续

配置CM的kerberos管理用户（cloudera-scm/admin），上面创建的

自动导入导入 KDC Account Manager 凭据，直接下一步继续

已经装好了kerberos客户端，直接下一步继续即可

自动停止集群为每个组件创建一个kerberos认证用户，然后再自动启动每个组件，等待一段时间即可

完成kerberos安装与配置

查看CM自动创建的kerberos用户

$ kadmin.local -q "listprincs"

3）简单使用

用户访问服务认证

开启Kerberos安全认证之后，日常的访问服务（例如访问HDFS，消费Kafka topic等）都需要先进行安全认证

1、在Kerberos数据库中创建用户主体/实例

$ kadmin.local -q "addprinc hive/hive@HADOOP.COM" 输入密码：123456 再确认密码：123456

2、进行用户认证访问HDFS

# 清理当前用户 $ kdestroy $ hadoop fs -ls / # 发现如果没登录，就访问不了了

# 生成ketab文件，一般常用keytab文件去做认证 $ kadmin.local -q "xst -k /root/hive.keytab hive/hive@HADOOP.COM" $ kinit -kt /root/hive.keytab hive/hive $ klist $ hadoop fs -ls /

访问其它组件也类似，这里就不再演示了，感兴趣的小伙伴可以去练习验证一下，本章也到这先结束了，有疑问的小伙伴，欢迎给我留言哦，后续会分享更多关于大数据的文章，请小伙伴耐心等待~