kafka菜鸟教程 如何搭建kafka?该如何学习kafka?
浏览量:1997
时间:2021-04-10 04:44:15
作者:admin
如何搭建kafka?该如何学习kafka?
百度很多
一致性:如果一条消息对消费者是可见的,那么即使领导挂断了,新领导上的数据还是可见的。
ISR(同步副本)是由zookeeper中的负责人维护的副本列表。该列表存储所有副本的跟随者节点id,这些副本使消息与引导者副本保持同步。ISR冗余备份机制的核心逻辑是围绕HW值和Leo值。
Leo(last end offset)log end offset,记录副本对象的基础日志文件中下一条消息的位移值。
HW(高水印),高水印值。任何复制对象的HW值不得大于其Leo值,所有小于或等于HW值的消息都被视为“已提交”或“已备份”。使用者只能使用提交的消息,HW之后的数据对使用者不可见。
卡夫卡只能保证分区的内部顺序,不能保证整个主题的顺序。
因为一个主题可以有多个分区,卡夫卡只能保证分区的内部顺序。可能需要排序的数据被分配到不同的分区,导致处理混乱
解决方案
1。只能用一个分区设置主题
2。根据业务需要,需要排序的数据要指定为同一个分区
3。根据业务需要,如相同的顺序,使用相同的密钥可以保证它被分配到相同的分区
无序场景2
对于相同的业务,在进入相同的消费群体后,使用多线程处理消息会导致无序
解决方案
消费群体创建的数量相等内存组根据线程数列。对于需要排序的一系列业务数据,根据密钥或业务数据将它们放入同一个内存队列中,然后线程将它们从相应的内存队列中取出并进行操作
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。