作者:霸气的萱---_299 | 来源:互联网 | 2023-09-06 10:37
我设计了一个NiFi实时提取过程,该过程每分钟需要处理大约600个新文件,然后转储到hbase存储中。我们使用了NiFi 1.8.0和HDP 3.0.1。提取过程可以正常进行,直到一个月前HBase RPC设置更新为“隐私”以增强安全性。我们已经进行了广泛的研究以尝试解决它,但无法通过它。我们收到的错误是:
Org.apache.hadoop.hbase.client.RetriesExhaustedWithDetailsException:失败1次操作:ConnectionClosingException:1次
为了进行测试,我们仅限于向puthbasecell发送1个文件,因此,我们收到了数百个错误。从1次恢复到15次。
详细信息错误:PuthbaseCell erro from NiFi application log
Hbase worker节点错误:
2019-12-05 21:20:40,220 WARN [hconnection-] o.a.hadoop.hbase.client.AsyncProcess #2943,table=(HBASE Table Name),attempt=1/1 failed=1ops,last exception: org.apache.hadoop.hbase.exceptions.ConnectionClosingException: IPC Client (number here) connection to (Worker node FQDN):16020 from **(Service account Principle)** is closing on (worker node FQDN),tracking started Thu Dec 05 21:20:40 UTC 2019; not retrying 1 - final failure
我们尝试了多种方法来解决此问题,但没有成功,并且问题似乎是断断续续的:
1.重新启动NiFi。问题首先消失,数据能够写入hbase,一天后错误再次出现
2.将 hbase.rpc.protection 切换出 Privacy (私密性)
我们尝试了许多其他方法,但是问题仍然无法解决。任何想法都受到高度赞赏!