业务场景:
接受或者生成日志给kafka队列 消费者同步入库
公司最近业务日志比较多 于是设计通过MQ传输消费
设计的自作多情的时候为了减少通信 会把日志归并(使用阻塞队列汇集达到100+再发送出去)结果就是出现大规模的消息堆积在kafka里面
解决:
前面既然说了是自作多情,问题也就在这。大消息发送没问题,但是在消费的时候出现了问题。业务日志显示在频繁的拉取同一条消息,重复的消费。
原因:消费超时。kafka一次性拉取近500条消息。60秒内消费不完就会超时。导致消费不成功。也就有了后面的重复消费。
这一类业务的正确处理是这样的,直接单条记录单条消息发送,kafka自己会做消息的归并达到一定的量才会发送。消费也是如此。
详细解决方案
kafka 消息重复拉取消费超时
热度:148 发布时间:2023-09-13 09:00:55.0
相关解决方案
- Kafka Broker的问题-UnknownServerException
- Kafka Consumer 参数
- Kafka Connect主要涉及到的类的类图
- Kafka 基本原理
- 使Flink SQL Kafka Source支持独立设置并行度
- Kafka Partition重分配流程简析
- Kafka Partition的消费分配策略
- Kafka 保证分区有序
- Kafka 水位详解
- kafka 消息重复拉取消费超时
- kafka 修改副本数
- Kafka 消费者远程读不到数据
- Flink+Kafka 0.11端到端精确一次处理语义实现
- 黑猴子的家:kafka.sh
- 架构师日记——Kafka、RabbitMQ、RocketMQ等消息中间件的对比
- Kafka ETL 的应用及架构解析|告别 Kafka Streams,让轻量级流处理更加简单
- 细解 kafka 架构、应用场景及良好特性
- Kafka Streams(三十)
- Kafka Mirror Maker(二十九)
- Kafka Connect(二十八)
- kafka 0.9+消费者配置参数说明
- kafka生产者报错:[org.apache.kafka.clients.NetworkClient:600] - Error while fetching metadata with corre
- kafka tool工具使用
- MQ(消息队列框架)选型对比:ActiveMQ, RabbitMQ, RocketMQ, Kafka
- Springboot 整合 kafka 实现消息的发布和订阅
- kafka 消息的分区分配策略
- kafka client连接远程kafka集群的配置问题
- kafka 学习(四)spring-kafka生产者消费者收发消息
- kafka 学习(三)创建topic收发消息
- kafka 学习(二)单机安装kafka