现在的位置: 首页 > 数据库 > 正文

Hadoop主要组件包含哪些?HadoopMapReduce方法的应用范围以及典型的特征有什么

2020年06月29日 数据库 ⁄ 共 855字 ⁄ 字号 评论关闭

  如今ApacheHadoop已成为大数据行业发展背后的驱动力。Hive和Pig等技术也经常被提到,但是他们都有什么功能,为什么会需要奇怪的名字(如Oozie,ZooKeeper、Flume)。下面学步园小编来讲解下Hadoop主要组件包含哪些?HadoopMapReduce方法的应用范围以及典型的特征有什么?

  Hadoop主要组件包含哪些

  Hadoop:Java编写的软件框架,以支持数据密集型分布式应用

  ZooKeeper:高可靠性分布式协调系统

  MapReduce:针对大数据的灵活的并行数据处理框架

  HDFS:Hadoop分布式文件系统

  Oozie:负责MapReduce作业调度

  HBase:Key-value数据库

  Hive:构建在MapRudece之上的数据仓库软件包

  Pig:Pig是架构在Hadoop之上的高级数据处理层。PigLatin语言为编程人员提供了更直观的定制数据流的方法。

  HadoopMapReduce方法的应用范围以及典型的特征有什么

  庞大的数据量

  较少或没有数据依赖

  包含结构化和非结构化数据

  适合大规模的并行处理

  应用用例

  足够快速的批处理分析仪满足业务需求和业务报告,如网站流量和产品推荐分析。

  使用数据挖掘和机器学习算法迭代分析。如关联规则分析K-means数据聚集、链接分析(数据分析技术)、数据挖掘分类、著名的Bayes算法分析。

  统计分析和提炼,如Web日志分析、数据分析

  行为分析,如点击流分析,用户视频行为等

  转换和增强功能,如社交媒体、ETL处理、数据标准化等

  通常情况下,Hadoop应用于分布式环境。就像之前Linux的状况一样,厂商集成和测试ApacheHadoop生态系统的组件,并添加自己的工具和管理功能。

  以上就是关于“Hadoop主要组件包含哪些?HadoopMapReduce方法的应用范围以及典型的特征有什么”的内容,希望对大家有用。更多资讯请关注学步园。学步园,您学习IT技术的优质平台!

抱歉!评论已关闭.