如今ApacheHadoop已成为大数据行业发展背后的驱动力。Hive和Pig等技术也经常被提到,但是他们都有什么功能,为什么会需要奇怪的名字(如Oozie,ZooKeeper、Flume)。下面学步园小编来讲解下Hadoop主要组件包含哪些?HadoopMapReduce方法的应用范围以及典型的特征有什么?
Hadoop主要组件包含哪些
Hadoop:Java编写的软件框架,以支持数据密集型分布式应用
ZooKeeper:高可靠性分布式协调系统
MapReduce:针对大数据的灵活的并行数据处理框架
HDFS:Hadoop分布式文件系统
Oozie:负责MapReduce作业调度
HBase:Key-value数据库
Hive:构建在MapRudece之上的数据仓库软件包
Pig:Pig是架构在Hadoop之上的高级数据处理层。PigLatin语言为编程人员提供了更直观的定制数据流的方法。
HadoopMapReduce方法的应用范围以及典型的特征有什么
庞大的数据量
较少或没有数据依赖
包含结构化和非结构化数据
适合大规模的并行处理
应用用例
足够快速的批处理分析仪满足业务需求和业务报告,如网站流量和产品推荐分析。
使用数据挖掘和机器学习算法迭代分析。如关联规则分析K-means数据聚集、链接分析(数据分析技术)、数据挖掘分类、著名的Bayes算法分析。
统计分析和提炼,如Web日志分析、数据分析
行为分析,如点击流分析,用户视频行为等
转换和增强功能,如社交媒体、ETL处理、数据标准化等
通常情况下,Hadoop应用于分布式环境。就像之前Linux的状况一样,厂商集成和测试ApacheHadoop生态系统的组件,并添加自己的工具和管理功能。
以上就是关于“Hadoop主要组件包含哪些?HadoopMapReduce方法的应用范围以及典型的特征有什么”的内容,希望对大家有用。更多资讯请关注学步园。学步园,您学习IT技术的优质平台!