现在的位置: 首页 > 综合 > 正文

hdfs-webdev

2018年05月03日 ⁄ 综合 ⁄ 共 1959字 ⁄ 字号 评论关闭

hdfs-webdev介绍

 (2011-08-15 19:54:12)

标签: 

hadoop

 

webdav

 

http://code.google.com/p/hdfs-webdav/downloads/detail?name=hdfs-webdav.war

文章来自软件中的doc/guild.html

 

介绍
本项目是一个hadoop namenode server的webdev协议访问代理,实现 client => hdfs-webdev proxy => hadoop namenode server的中间层. 项目修改自tomcat的WebdevServlet,实现了WebDAV level 2协议.
war部署
修改配置

修改hdfs-webdev.war里面的WEB-INF/classes/hadoop-site.xml

修改fs.default.name属性,以确定hdfs-webdev要连接的hadoop NameNode Server,示例:

<property>
   <name>fs.default.name</name>
   <value>hdfs://192.168.52.129:9000/</value>
   <description>namenode</description>
</property>

替换hadoop-xxxx-core.jar版本

由于hadoop有自己的rpc远程调用实现,并且各个版本间可能不兼容(0.17.x与0.18.x之间就不兼容),所以需要将WEB-INF/lib/hadoop-xxxx-core.jar的版本与NameNode Server的版本一致.现war自带的是hadoop-0.17.2.1-core.jar的版本
部署至tomcat
以上修改完,将war包部署至tomcat或是jboss中,部署在其它服务器中时需要tomcat的catalina.jar与tomcat- coyote.jar,拷贝至WEB-INF/lib目录,因为现在项目是从tomcat的WebdevServlet中修改而来的
测试是否部署成功
访问http://localhost:8080/hdfs-webdev
webdev客户端访问
实现webdev的hdfs可以映射为windows或是linux本地文件夹.
window网上邻居访问

打开“网上邻居”,添加网上邻居,在“请键入网上邻居的位置”中输入 Web 文件夹的 URL.

http://localhost:8080/hdfs-webdev
然后按照向导的提示继续下一步就可以了.
Linux mount WebDev为本地文件系统

linux下相要mount WebDAV server为本地文件系统,必须要使用davfs2,项目网址:http://dav.sourceforge.net/

安装davfs2请使用编译安装

davfs2编译时依赖于neon,neon是一个WebDAV client library. neon网址http://www.webdav.org/neon/

dsvfs2在mount时会使用fuse或是coda这两个文件系统,其中一个文件系统linux一般都有自带,davfs2在mount时会首先尝试使用fuse,失败时再使用coda

但在CentOs中使用coda时发生如下错误,所以后面安装fuse, fuse网址http://fuse.sourceforge.net/

/sbin/mount.davfs: no free coda device to mount
/sbin/mount.davfs: trying fuse kernel file system
/sbin/mount.davfs: can't open fuse device

neon,davfs2,fuse编译安装: 项目的linux_mount_lib目录已经自带了这三个包

1.运行./configure
2.运行make
3.运行make install

运行davfs2的mount命令
在mount之前,davfs2需要创建davfs2用户及用户组

[root@datacenter5 usr]# mkdir /data/hdfs
[root@datacenter5 usr]# groupadd davfs2
[root@datacenter5 usr]# useradd -g davfs2 davfs2
[root@datacenter5 usr]# mount.davfs http://192.168.55.104:8080/hdfs-webdev /data/hdfs

原文地址:http://blog.sina.com.cn/s/blog_508ea5710100w1tr.html

http://badqiu.iteye.com/blog/269641

抱歉!评论已关闭.