选择Hadoop的原因主要有以下三点:1.降低成本;2.生态圈成熟;3.可以解决问题。
一、可以帮助我们解决什么问题
现在不管是在国内外的大公司,对于大数据都是非常的渴望,会想尽所有的办法搜集一切的数据,由于现代信息的不对称从而导致不断的数据变化,大量的信息是可以通过数据分析获取。
数据的来源有非常多的途径,大数据的格式也将会越来越复杂,时间的推移产生的数据也会越来越大。所以在数据的存储上和基于数据上的计算会让传统的数据库进入一个瓶颈。
而Hadoop的诞生就是为了解决这个问题。让其底层的分布式文件具有非常强大的拓展性,通过数据沉余对于数据不会丢失,同时还会将计算的效率给提高,同时还可以将各式各样的数据存储。对于多种计算的框架也支持,不但可以离线进行计算也可以在线进行实时计算。
二、生态圈成熟
生态圈的成熟意味着未来发展的前景,意味着未来美好的市场,同时也代表着一份更有钱途的工作。
三、为什么可以降低成本
在我们遇到问题后确定可以解决,那就首先要考虑下成本的问题了。
1.硬件成本
由于Hadoop的架构是基于价格较低的服务器,所以支撑服务器的硬件并不需要太昂贵。
2.软件成本
基本上开源的产品都是免费的,在开源的协议上,可以进行自由的修改,可控将会更大。
3.开发成本
由于属于二次开发,所以对于开发人员的工作要求并不是很高。
4.维护成本
当大规模的集群时候,开发的成本和维护的成本就会直接凸显出来。但是对于新开发的系统来说,还算是便宜很多。
5.其他成本
Hadoop服务器是社区服务器,成本非常低,基本上所有人都可以用。可以将杂乱无章PB级别的数据进行处理,在处理失败后存储数据的话则可以使用分布式进行处理。另Hadoop的高扩展性:计算机集群间进行分配数据并且完成计算任务,这些都可以非常方便的扩展到其他各个类型的节点当中。
高效性:可以在节点之间自由的移动数据,并且可以让各个动态的节点保持平衡,所以处理速度很快。
高容错性:数据的多个副本可以自动保存,并且还能够紫江将各个失败的数据进行任务重新分配。
PPV课其他精彩文章:
1、回复“干货”查看干货 数据分析师完整知识结构
2、回复“答案”查看大数据Hadoop面试笔试题及答案
3、回复“设计”查看这是我见过最逆天的设计,令人惊叹叫绝
4、回复“可视化”查看数据可视化专题-数据可视化案例与工具
5、回复“禅师”查看当禅师遇到一位理科生,后来禅师疯了!!知识无极限
6、回复“啤酒”查看数据挖掘关联注明案例-啤酒喝尿布
7、回复“栋察”查看大数据栋察——大数据时代的历史机遇连载
8、回复“数据咖”查看数据咖——PPV课数据爱好者俱乐部省分会会长招募
9、回复“每日一课”查看【每日一课】手机在线视频集锦
原文始发于微信公众号(PPV课数据科学社区):【学习】公司的大数据业务为什么都基于Hadoop方案
原创文章,作者:ppvke,如若转载,请注明出处:http://www.ppvke.com/archives/25015