2016 - 2024

感恩一路有你

hadoop平台搭建 如何为Hadoop集群选择正确的硬件?

浏览量:1543 时间:2021-03-12 02:47:53 作者:admin

如何为Hadoop集群选择正确的硬件?

Hadoop是一个运行在集群环境下的大数据框架,包含分布式存储和分布式计算两个大的部分。

Hadoop之所以流行一个重要原因是它对硬件的要求不高,通常8G以上的内存就可以运行Hadoop了。很多学习Hadoop的程序员都是从部署伪集群开始的,可见Hadoop对硬件的要求非常低。但是要想流畅运行Hadoop一个重点就是加大内存、使用i5以上的cpu。

Hadoop对内存和cpu的要求比较敏感,如果使用Spark那么内存推荐在32G以上,否则处理速度会受到很大影响,因为Spark是基于内存进行运算的。

Hadoop是学习阶段的选择,通常商用大数据平台都会在Hadoop基础上做封装,或是选用成熟的商用大数据平台。因为Hadoop部署和运维都比较麻烦,商用平台通常都会做的比较完善和方便使用。

hadoop平台搭建 hadoop集群是什么 基于hadoop的课程设计

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。