api接口 从kafka读取数据后，数据会自动删除吗？
从kafka读取数据后，数据会自动删除吗？
基于receiver的实现将使用kakfa的高级消费API。与所有其他接收器一样，接收到的数据将保存到执行器，然后sparkstreaming将启动作业来处理数据。
在默认配置中，如果出现故障，此方法将丢失数据。为了确保零数据丢失，我们需要启用wal（writeaheadlogs）。它将接收到的数据同步保存到分布式文件系统，如HDFS。因此，在发生错误时可以恢复数据。
使用两个步骤：1。添加依赖项：Spark streaming Kafka 2.10-1.3.0
2导入器g.apache.spark. 卡夫卡.
日志采集系统flume和kafka有什么区别及联系？
flume和Kafka有些功能是一样的，但总的来说，它们有很大的不同；它们的场景不同，但可以一起使用。
简而言之，flume是一个分布式日志收集系统，它从各种服务器收集日志并将其传输到指定的位置，如HDFS。
Kafka是一个分布式消息中间件，有自己的存储，提供推拉数据访问功能。
整个过程如下：
登录服务器<--flume-->kafka-->hdfs-->离线计算
登录服务器<--flume-->kafka-->storm
希望我的回答能对您有所帮助
大数据和Java语言有啥区别？
大数据是指传统软件工具在一定时间内无法捕获、管理和处理的数据集。它是一种海量、高增长率、多样化的信息资产，需要新的处理模式具有更强的决策能力、洞察力和流程优化能力。
软件开发是根据用户需求构建软件系统或系统的软件部分的过程。软件开发是一个系统工程，包括需求捕获、需求分析、设计、实现和测试。就业肯定软件开发是更好的就业
在学习大数据之前先学一门计算机编程语言。大数据的开发需要编程语言的基础，因为大数据的开发是基于一些常用的高级语言，比如Java和Java。净额。Java具有简单性、面向对象性、分布式、健壮性、安全性、平台无关性和可移植性、多线程、动态性等特点。Java可以编写桌面应用程序、web应用程序、分布式系统和嵌入式系统应用程序。学习java会有一定的学习能力，然后学习其他语言和技术会容易得多。无论是Hadoop还是数据挖掘，都需要高级编程语言的基础。
因此，如果你想学习大数据开发，你还需要至少掌握一门高级语言。例如，许多Hadoop和其他大数据处理技术都使用Java，比如Apache基于Java的HBase、acumulo和elasticsearchas。因此，学习Hadoop的首要条件之一就是掌握Java编程语言。
版权声明：本文内容由互联网用户自发贡献，本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。
