现在的位置: 首页 > 综合 > 正文

WebCollector爬虫的种子

2018年04月10日 ⁄ 综合 ⁄ 共 221字 ⁄ 字号 评论关闭

网络爬虫之所以能够不断找到新的网页,是因为它能够从已经爬取的页面中,提取出未爬取的超链接,但是当爬虫开启的时候,是没有已知网页的。所以我们需要告诉爬虫至少1个url,让爬虫通过爬取这个url对应的网页,来找到新的网页(通过超链接抽取)。

对于广度遍历来说,种子就是树的树根(森林的树根集合)。

例如下图,对http://www.apache.org/进行爬取,http://www.apache.org/就是种子。

一般把爬虫的种子设为网站的首页。

抱歉!评论已关闭.