kafka lag 如何获取kafka某一topic中最新的offset?
如何获取kafka某一topic中最新的offset?
如果您使用的是0.9或更高版本,则可以使用最新的客户机消费者.seekToEnd() / 消费者地位()可用于获取最新偏移量:${日志.dirs}/复制偏移检查点
以下是我的回复,拒绝复制粘贴。
首先,Kafka是一个分布式消息中间件,主要用于消费者和生产者的场景。这是一种发布-订阅关系。
关系数据库是一个数据存储系统,主要用于存储关系数据。
基于Kafka,无法实现全功能关系数据库。卡夫卡本身与数据库没有对应关系,它们存储的数据库也没有对应关系。
如果我们要把这两件事联系起来,我们通常会把数据库的信息读出来放在卡夫卡中,也就是消息生产者;而从卡夫卡获取数据的客户端或终端就是消费消息,也就是消费者。当然,您可以读取来自卡夫卡的消息,并在处理后将其存储在数据库中。您应该知道Kafka是一个中间件,它的主要功能不是像数据库那样存储数据。
建议您首先明确需求,并确定您的问题是否满足需求。
如何基于kafka来实现一个全功能的关系型数据库?
flume和Kafka的一些功能是相同的,但总的来说,它们是完全不同的;它们的场景是不同的,但它们可以一起使用。
简而言之,flume是一个分布式日志收集系统,它从各种服务器收集日志并将其传输到指定的位置,如HDFS。
Kafka是一个分布式消息中间件,有自己的存储,提供推拉数据访问功能。
整个过程如下:
登录服务器<--flume-->kafka-->hdfs-->离线计算
登录服务器<--flume-->kafka-->storm
希望我的回答能对您有所帮助!
kafka lag kafkamonitor kafka偏移量是什么意思
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。