spark必须基于hadoop吗 浅谈Spark和Hadoop作业之间的区别？
浅谈Spark和Hadoop作业之间的区别？
我认为你所说的Hadoop是map/reduce。主要区别如下：
1。Mr-Jobs的资源控制是通过yarn实现的。Spark是否可以通过纱线控制资源。但是，如果将多个组件设置在一起（例如，群集中同时存在spark计划和HBase查询），建议使用yarn；
2。Spark基于内存计算。计算的中间结果存储在内存中，可以访问行迭代计算；而Mr计算的中间结果是放到磁盘上，所以一个作业会涉及到对磁盘的重复读写，这也是性能不如spark的主要原因；
3。Mr的任务对应于一个容器，每次都需要花费大量的时间来启动。一些Hadoop版本（如华为oceaninsight）性能不同，Hadoop实现了容器预热（重用）功能，可能消耗较少，而spark是基于线程池的，因此资源分配会更快。
在hadoop和spark之间如何取舍？
一般来说，会用到主流行业的大数据技术Hadoop和spark。学习时，两个系统都会学习，先学习Hadoop，再学习spark。
Apache开源组织的分布式基础设施提供了分布式文件系统（HDFS）、分布式计算（MapReduce）和统一资源管理框架（yarn）的软件体系结构。用户可以在不了解分布式系统的基本细节的情况下开发分布式程序。
为大规模数据处理设计的快速通用计算引擎。用于构建大型、低延迟的数据分析应用程序。它可以用来完成各种操作，包括SQL查询、文本处理、机器学习等。
https://www.toutiao.com/i654015696262573648397/
hadoop与spark的区别是什么？
感谢您的邀请
！请看下面的图片：
狭义的Hadoop，也就是原始版本：只有HDFS map reduce
未来会出现很多存储、计算和管理框架。
如果我们比较它们，我们可以比较Hadoop map reduce和spark，因为它们是用于大数据分析的计算框架。
Spark有许多线路组件，它们更强大、更快。
spark必须基于hadoop吗 spark与scala版本对应 spark集群部署
版权声明：本文内容由互联网用户自发贡献，本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。
