现在的位置: 首页 > 综合 > 正文

别人使用Hadoop的一些经验总结

2014年01月26日 ⁄ 综合 ⁄ 共 973字 ⁄ 字号 评论关闭
经验总结和注意事项(这部分是我在使用过程中花了一些时间走的弯路):

  • Master和Slave上的几个conf配置文件不需要全部同步,如果确定都是通过Master去启动和关闭,那么Slave机器上的配置不需要去维护。但如果希望在任意一台机器都可以启动和关闭Hadoop,那么就需要全部保持一致了。
  • Master
    和Slave机器上的/etc/hosts中必须把集群中机器都配置上去,就算在各个配置文件中使用的是IP。这个吃过不少苦头,原来以为如果配成IP就
    不需要去配置Host,结果发现在执行Reduce的时候总是卡住,在拷贝的时候就无法继续下去,不断重试。另外如果集群中如果有两台机器的机器名如果重
    复也会出现问题。
  • 如果在新增了节点或者删除节点的时候出现了问题,首先就去删除Slave的hadoop.tmp.dir,然后重新启
    动试试看,如果还是不行那就干脆把Master的hadoop.tmp.dir删除(意味着dfs上的数据也会丢失),如果删除了Master的
    hadoop.tmp.dir,那么就需要重新namenode –format。
  • Map任务个数以及Reduce任务个数配置。前面
    分布式文件系统设计提到一个文件被放入到分布式文件系统中,会被分割成多个block放置到每一个的DataNode上,默认
    dfs.block.size应该是64M,也就是说如果你放置到HDFS上的数据小于64,那么将只有一个Block,此时会被放置到某一个
    DataNode中,这个可以通过使用命令:hadoop dfsadmin
    –report就可以看到各个节点存储的情况。也可以直接去某一个DataNode查看目录:hadoop.tmp.dir/dfs/data
    /current就可以看到那些block了。Block的数量将会直接影响到Map的个数。当然可以通过配置来设定Map和Reduce的任务个数。
    Map的个数通常默认和HDFS需要处理的blocks相同。也可以通过配置Map的数量或者配置minimum split
    size来设定,实际的个数为:max(min(block_size,data/#maps),min_split_size)。Reduce可以通过
    这个公式计算:0.95*num_nodes*mapred.tasktracker.tasks.maximum。

抱歉!评论已关闭.