开发spark用java合适吗 java开发,转大数据好还是机器学习?
java开发,转大数据好还是机器学习?
谢谢。我建议转向大数据。
我也从事java开发,我对这个主题的纠缠也有同样的感受。毕竟,如果我精通Java,我已经付出了大量的学习精力。如果我学习机器学习,我基本上想告别Java,这无疑是一个非常不幸的选择。
此外,转向机器学习不仅需要深入了解python,还需要掌握数学算法,这是不可能一蹴而就的。因此,转向人工智能的风险相对较高,很容易打乱一个人的职业规划。
目前,大数据方向仍是一个需求量大、前景好的工作方向。Java广泛应用于大数据领域。单凭Hadoop生态系统就足以完成大量的大数据工作,而Hadoop和Java是分不开的。
最重要的是大数据方向不会低于机器学习的工资,机器学习还处于初级阶段。别担心工资问题。
大数据处理为何选择spark?
Spark是大数据时代的产物。它可以基于HDFS中存储的海量数据,对每个数据节点上的任务进行分布式处理。Spark将大规模计算任务分解为有向无环图,并按拓扑顺序执行图中的任务。通过yarn的调度,可以充分利用分布式系统的计算资源(主要是CPU和内存)。与MapReduce相比,spark可以基于内存计算(内存不足时重新存储磁盘)进行改进,而MapReduce基于磁盘计算,因此spark的计算速度相当快,可以将普通MapReduce的耗时压缩10倍。在我们的日常工作中,我们可以早点完成数据处理,早点下班。
在大数据场景下,如果使用传统的MySQL数据库通过SQL进行查询,需要花费大量精力将数据库和表分开,维护数据,并且经常面临数据库查询速度慢的问题。您仍然需要有一个基于HDFS的数据仓库,并使用spark进行数据处理。快用火花!
开发spark用java合适吗 java编程 java编写spark接口
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。