2016 - 2024

感恩一路有你

spark到reduce hadoop与spark的区别是什么?

浏览量:1378 时间:2021-03-11 12:03:51 作者:admin

hadoop与spark的区别是什么?

谢谢邀请!

请看下面这张图:

狭义的Hadoop 也就是最初的版本:只有HDFS Map Reduce

后续出现很多存储,计算,管理 框架。

如果说比较的话就 Hadoop Map Reduce 和 Spark 比较,因为他们都是大数据分析的计算框架。

Spark 有很多行组件,功能更强大,速度更快。



关注我了解更多大数据分析技能

mesos、k8s和spark之间的联系和区别是什么?

Mesos、K8s之间有关系,简单地说有竞争关系,都是用来进行容器编排的,是容器技术的关键组件。Mesos比K8s出道早,一度受到市场热捧,不过,K8s有Google撑腰很快就盖过了Mesos,而且战胜了Docker的自己Swarm,今天K8s已经是容器编排的事实标准了。

Spark是大数据领域的一款软件,最早是作为Hadoop的竞争对手出现,如今已经与Hadoop整合在一起了。它和Mesos、K8s没有直接关系。如果非要说有,就是都是开源软件。

MapReduce和Spark的区别是什么?

谢邀回答


首先分别来说一下两者


MapReduce 是hadoop 的分布式运算编程框架


核心功能将用户编写的逻辑代码和自带组件整合成一个程序,并发运行在hadoop集群是上,核心组件是mrAppmaster mapTask ReduceTask


Spark是mapReduce的替代方案,兼容HDFS、Hive,可融入hadoop的生态系统


两者区别


1.spark比MapReduce要快

基于内存的运算,比MapReduce快100倍以上


基于硬盘的运算,快10倍以上


2.spark支持流式和离线两者运算


MapReduce只支持离线运算


3.MapReduce本身没有资源调度系统,必须运行在yarn等资源系统上


spark本身集成资源调度,以standalone方式可运行在自身的Master 和worker上,也可以运行在yarn上


篇幅有限就先介绍到这里,欢迎大家留言评论

spark到reduce mapreduce过程 spark取代MapReduce

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。