网络信息采集器，用于在网络上采集其他网站所发不出来的信息资源，对信息采集者而言是非常地方便快捷的，以下就是网络信息采集器的制作教程：
在制作网络信息采集器时，我们会使用到网络命名空间中的HttpWebRequest和HttpWebResponse这2个类，还会使用到基础命名空间中的IO技术，在下面我将写出。
//采集网站的地址
string url = "http://www.baidu.com/";
//创建访问目标
HttpWebRequest webRequeset = (HttpWebRequest)WebRequest.Create(url);
//得到回应
HttpWebResponse webResponse = (HttpWebResponse)webRequeset.GetResponse();
//得到数据流
Stream stream = webResponse.GetResponseStream();
//对获取到的数据流进行编码解析，让我们可以进行正常读取
StreamReader streamReader = new StreamReader(stream, Encoding.GetEncoding("gb2312"));
//读取出数据流中的信息
string content = streamReader.ReadToEnd();
//关闭流
streamReader.Close();
//关闭网络响应流
webResponse.Close();
通过上面的方式，我们将得到网络响应回来的数据，这时，我们将进行正则配对选取性截取
public class GetRemoteObj
{
#region 根据URL读取网络内容
/// <summary>
/// 根据URL读取网络内容
/// </summary>
/// <param name="url"></param>
/// <returns></returns>
public string GetRemoteHtmlCode(string url)
{
HttpWebRequest wrequest = (HttpWebRequest)WebRequest.Create(url);
HttpWebResponse wresponse = (HttpWebResponse)wrequest.GetResponse();
Stream stream = wresponse.GetResponseStream();
StreamReader reader = new StreamReader(stream, Encoding.GetEncoding("gb2312"));
string HtmlCode = reader.ReadToEnd();
reader.Close();
wresponse.Close();
return HtmlCode;
}
#endregion
#region 替换网页中的换行和引号
/// <summary>
/// 替换网页中的换行和引号
/// </summary>
/// <param name="HtmlCode"></param>
/// <returns></returns>
public string ReplaceEnter(string HtmlCode)
{
string s = "";
if (HtmlCode == null || HtmlCode == "")
s = "";
else
s = HtmlCode.Replace("\"", "");
s = s.Replace("\r", "");
s = s.Replace("\n", "");
return s;
}
#endregion
#region 执行正则提取出值
/// <summary>
/// 执行正则提取出值
/// </summary>
/// <param name="RegexString">正则表达式</param>
/// <param name="RemoteStr">html源码</param>
/// <returns></returns>
public string GetRegValue(string RegexString, string RemoteStr)
{
string MatchVale = "";
Regex r = new Regex(RegexString);
Match m = r.Match(RemoteStr);
if (m.Success)
{
MatchVale = m.Value;
}
return MatchVale;
}
#endregion
#region 删除HTML标签
/// <summary>
/// 删除HTML标签
/// <param name="HtmlCode">html源码</param>
/// <returns></returns>
public string RemoveHTML(string HtmlCode)
{
string MatchVale = HtmlCode;
foreach (Match s in Regex.Matches(HtmlCode, "<.+?>"))
{
MatchVale = MatchVale.Replace(s.Value, "");
}
return MatchVale;
}
#endregion
#region 获取页面的链接正则
/// <summary>
/// 获取页面的链接正则
/// </summary>
/// <param name="HtmlCode">html源码</param>
/// <returns></returns>
public string GetHref(string HtmlCode)
{
string MatchVale = "";
string Reg = @"(h|H)(r|R)(e|E)(f|F) *= *(’|"")?((\w|\\|\/|\.|:|-|_)+)[\S]*";
foreach (Match m in Regex.Matches(HtmlCode, Reg))
{
MatchVale += (m.Value).ToLower().Replace("href=", "").Trim() + "|";
}
return MatchVale;
}
#endregion
#region 匹配<img src="" />中的图片路径实际链接
/// <summary>
/// 匹配<img src="" />中的图片路径实际链接
/// </summary>
/// <param name="ImgString">字符串</param>
/// <param name="imgHttp"></param>
/// <returns></returns>
public string GetImg(string ImgString, string imgHttp)
{
string MatchVale = "";
string Reg = @"src=.+\.(bmp|jpg|gif|png|)";
foreach (Match m in Regex.Matches(ImgString.ToLower(), Reg))
{
MatchVale += (m.Value).ToLower().Trim().Replace("src=", "");
}
if (MatchVale.IndexOf(".net") != -1 || MatchVale.IndexOf(".com") != -1 || MatchVale.IndexOf(".org") != -1 || MatchVale.IndexOf(".cn") != -1 || MatchVale.IndexOf(".cc") != -1 || MatchVale.IndexOf(".info") != -1 || MatchVale.IndexOf(".biz") != -1 || MatchVale.IndexOf(".tv") != -1)
return (MatchVale);
else
return (imgHttp + MatchVale);
}
#endregion
#region 匹配页面的图片地址
/// <summary>
/// 匹配页面的图片地址
/// </summary>
/// <param name="HtmlCode">html源码</param>
/// <param name="imgHttp">要补充的http://路径信息</param>
/// <returns></returns>
public string GetImgSrc(string HtmlCode, string imgHttp)
{
string MatchVale = "";
string Reg = @"<img.+?>";
foreach (Match m in Regex.Matches(HtmlCode.ToLower(), Reg))
{
MatchVale += GetImg((m.Value).ToLower().Trim(), imgHttp) + "|";
}
return MatchVale;
}
#endregion
#region 替换通过正则获取字符串所带的正则首尾匹配字符串
/// <summary>
/// 替换通过正则获取字符串所带的正则首尾匹配字符串
/// </summary>
/// <param name="RegValue">要替换的值</param>
/// <param name="regStart">正则匹配的首字符串</param>
/// <param name="regEnd">正则匹配的尾字符串</param>
/// <returns></returns>
public string RegReplace(string RegValue, string regStart, string regEnd)
{
string s = RegValue;
if (RegValue != "" && RegValue != null)
{
if (regStart != "" && regStart != null)
{
s = s.Replace(regStart, "");
}
if (regEnd != "" && regEnd != null)
{
s = s.Replace(regEnd, "");
}
}
return s;
}
#endregion
}
是在对不起大家，该文章被我耽误了很久了，今天终于抽出时间来，我决定把该文章搞定：
上面的方法，我把几个重要的讲解下 (由于家里是拨号上网，我基本上是以百度举例)
GetRemoteHtmlCode 该方法是用来获取该网页中的源代码，我们只需要传入URL地址即可 （注意下，传入的URL必须加上http，例如百度，我们需要写成http://www.baidu.com）
GetRegValue 该方法主要是用来提取关键信息 （这个方法非常的重要，可以说是采集系统的关键了，我会在下面举个例子）
RemoveHTML 该方法主要用来删除HTML标签
ReplaceEnter 该方法主要用来替换换行和引号
下面我将写个例子出来给大家看看:
GetRemoteObj getUrl = new GetRemoteObj(); //实例化操作类
string url = "http://www.baidu.com/"; //这个是我们的URL
string content = getUrl.GetRemoteHtmlCode(url); //得到html源码
string Reg="<title>.+?</title>"; //根据title标签正则，得到标题
string title = getUrl.GetRegValue(Reg, content); //取出title 这里取出来的标题是包含了title标签的
title = getUrl.RemoveHTML(title); //删除html标签
Console.WriteLine(title); //打印输出,在这里的时候，就会显示出标题内容了
上面的例子，大家都可以写一下，我们选择性截取内容时，有事会碰到换行的问题，那么可以先把对方换行标识符先替换下，就可以正常截取内容，
这个其实是很简单的，我把自己的一些经验总结了下：
第一：多线程采集的意思，很多人都搞错了，我在这里先解释下，我们在采集网页信息的时候，有可能一个页面中有很多个我们需要存储到数据里的数据，
比如说百度，但我们搜索出来信息是，百度给我们是分页显示的，这个时候，我们可以在这个页面进行多线程采集，使用委托和事件，我们让该页面显示出来的数据，比如一个页面有10个数据，那么我们开启10个线程，同时进行内容的采集，每当采集完成一个时，我们就干掉一个，当全部完成后，我们就可以调入第二页数据，在开启线程，进行同时采集
第二：我们每采集完一个页面，需要进行标示，我一般都是把该页面的路径放入到数据库中，在采集时，先进行对比，我不知道大家还有没有更好的方法哈，如果有，请指教一下
第三：采集信息的机器最好是服务器，服务器的优势最大在于网络和cpu资源，我们开启多线程时，是非常消耗网络资源和cpu的，如果是一个差的机器，我推荐你还是1个一个的采集更好，不然容易挂掉
以上基本是信息采集系统的基础了，前端时间做的信息网，初步就用到了这些，如果大家有兴趣，可以对某个网站进行采集下，个人感觉还是不错，就是重用性我没有更好的解决方法，这点很郁闷，采集只能针对摸个网站的信息，不能通用，如果有时间，可以在深入的了解下。
在这里，我对各位看兄道歉，该文章拖了了一段时间，是在很忙，有兄弟找我要例子，说实话，除了那个网站的采集器，我还真的没有做个例子出来，汗。。。。
下次我在写文章时，一定会先做例子，是在对不起！！！！