学步园

   近来有些朋友在做蜘蛛算法，或者在网页上面做深度的数据挖掘。但是遇到复杂而繁琐的html页面大家都望而却步。因为很难获取到相应的数据。

   最古老的办法的是尝试用正则表达式，估计那么繁琐的东西得不偿失，浪费我们宝贵的时间。

   第二个办法用开源组织htmlparser的包，这个是一个比较老的项目，但是效果估计不是很好，好像不可以深入分析html，只能分析5级的结构；

   我这里有个htmlparser的源代码，可以获取所有的超链接的

   /*<br /> * To change this template, choose Tools | Templates<br /> * and open the template in the editor.<br /> */<br /> package test;</p> <p>import java.util.HashMap;<br /> import java.util.Map;</p> <p>import org.htmlparser.Node;<br /> import org.htmlparser.NodeFilter;<br /> import org.htmlparser.Parser;<br /> import org.htmlparser.tags.LinkTag;<br /> import org.htmlparser.util.NodeList;</p> <p>/**<br /> *<br /> * @author Arjick@163.com<br /> */<br /> public class GetLinkTest {</p> <p> public static void main(String[] args) {</p> <p> try {<br /> // 通过过滤器过滤出<A>标签<br /> Parser parser = new Parser("http://detail.china.alibaba.com/buyer/offerdetail/65296413.html?tracelog=chinaindex_recom_c2");<br /> NodeList nodeList = parser.extractAllNodesThatMatch(new NodeFilter() {<br /> // 实现该方法,用以过滤标签<br /> public boolean accept(Node node) {<br /> if (node instanceof LinkTag)// 标记<br /> {<br /> return true;<br /> }<br /> return false;<br /> }<br /> });<br /> // 打印<br /> for (int i = 0; i < nodeList.size(); i++) {<br /> LinkTag n = (LinkTag) nodeList.elementAt(i);<br /> //System.out.print(n.getStringText() + " ==>> ");<br /> //System.out.println(n.extractLink());<br /> try {<br /> if (n.extractLink().equals("http://zjdilong.cn.alibaba.com/athena/bizreflist/zjdilong.html")) {<br /> System.out.println(n.extractLink());<br /> }<br /> } catch (Exception e) {<br /> }<br /> }<br /> } catch (Exception e) {<br /> e.printStackTrace();<br /> }</p> <p> }<br /> }

   第三个办法，也是我现在一直在用的办法，首先把html清理为xml，然后用java解析xml获取数据，现在上传一个java clean html的源代码：

  /*<br /> * To change this template, choose Tools | Templates<br /> * and open the template in the editor.<br /> */<br /> package exec;</p> <p>import java.io.File;<br /> import java.io.IOException;<br /> import org.htmlcleaner.CleanerProperties;<br /> import org.htmlcleaner.HtmlCleaner;<br /> import org.htmlcleaner.PrettyXmlSerializer;<br /> import org.htmlcleaner.TagNode;</p> <p>/**<br /> *<br /> * @author Arjick@163.com<br /> */<br /> public class HtmlClean {</p> <p> public void cleanHtml(String htmlurl, String xmlurl) {<br /> try {<br /> long start = System.currentTimeMillis();</p> <p> HtmlCleaner cleaner = new HtmlCleaner();<br /> CleanerProperties props = cleaner.getProperties();<br /> props.setUseCdataForScriptAndStyle(true);<br /> props.setRecognizeUnicodeChars(true);<br /> props.setUseEmptyElementTags(true);<br /> props.setAdvancedXmlEscape(true);<br /> props.setTranslateSpecialEntities(true);<br /> props.setBooleanAttributeValues("empty");</p> <p> TagNode node = cleaner.clean(new File(htmlurl));</p> <p> System.out.println("vreme:" + (System.currentTimeMillis() - start));</p> <p> new PrettyXmlSerializer(props).writeXmlToFile(node, xmlurl);</p> <p> System.out.println("vreme:" + (System.currentTimeMillis() - start));<br /> } catch (IOException e) {<br /> e.printStackTrace();<br /> }<br /> }<br /> }<br />  

  以上代码大家一起分享，有什么看法，大家要提出沟通。希望以上代码有助于大家开发一个数据挖掘程序。