2016 - 2024

感恩一路有你

kafka菜鸟教程 如何搭建kafka?该如何学习kafka?

浏览量:1997 时间:2021-04-10 04:44:15 作者:admin

如何搭建kafka?该如何学习kafka?

百度很多

一致性:如果一条消息对消费者是可见的,那么即使领导挂断了,新领导上的数据还是可见的。

ISR(同步副本)是由zookeeper中的负责人维护的副本列表。该列表存储所有副本的跟随者节点id,这些副本使消息与引导者副本保持同步。ISR冗余备份机制的核心逻辑是围绕HW值和Leo值。

Leo(last end offset)log end offset,记录副本对象的基础日志文件中下一条消息的位移值。

HW(高水印),高水印值。任何复制对象的HW值不得大于其Leo值,所有小于或等于HW值的消息都被视为“已提交”或“已备份”。使用者只能使用提交的消息,HW之后的数据对使用者不可见。

卡夫卡只能保证分区的内部顺序,不能保证整个主题的顺序。

因为一个主题可以有多个分区,卡夫卡只能保证分区的内部顺序。可能需要排序的数据被分配到不同的分区,导致处理混乱

解决方案

1。只能用一个分区设置主题

2。根据业务需要,需要排序的数据要指定为同一个分区

3。根据业务需要,如相同的顺序,使用相同的密钥可以保证它被分配到相同的分区

无序场景2

对于相同的业务,在进入相同的消费群体后,使用多线程处理消息会导致无序

解决方案

消费群体创建的数量相等内存组根据线程数列。对于需要排序的一系列业务数据,根据密钥或业务数据将它们放入同一个内存队列中,然后线程将它们从相应的内存队列中取出并进行操作

kafka菜鸟教程 kafka应用实例 kafka入门

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。