当前位置: 代码迷 >> 综合 >> kafka0.11版本消费报错Group coordinator is unavailable or invalid, will attempt rediscovery
  详细解决方案

kafka0.11版本消费报错Group coordinator is unavailable or invalid, will attempt rediscovery

热度:121   发布时间:2023-11-28 00:55:38.0

报错

消费单节点kafka
要么消费很缓慢
要么报错
Group coordinator ip:9092 (id: 2147483647 rack: null) is unavailable or invalid, will attempt rediscovery

重启节点也没用

分析

单节点情况下coordinator 压力太大了
__consumer_offsets这个元主题的历史消息量分配不均衡
有分区kb、M级别正常,有几个分区直接几十G,如果消费的主题在这些压力大的分区,就会消费阻塞

因为这个元主题的clean policy是compact不是正常的delete,所以会一直累积,并且单节点就会很容易出现这个问题

解决办法

线上生产慎用

删除__consumer_offsets历史文件
重启节点,待节点重启后recovery完毕,正常

担忧

因为这个是个测试开发集群,不用担心历史偏移量的问题,但是如果开发没有管理偏移量,那么我觉得会有丢数据风险,所以线上生产慎用

  相关解决方案