asp.net实现网页信息采集的几点思考
最近公司需要开发一个简历导入功能，类似博客搬家或者邮箱搬家，之前抓取信息是利用火车采集器，但是简历导入功能需要用户登陆以后才能获取简历数据，无奈只好自己开发了。
首先是遇到的问题是：如何实现模拟登陆？
我们知道一般的网站都是通过Cookies来维护状态的，我抓的网站也是支持利用Cookies来验证用户的，构造一个post数据包，向服务器提交数据，在配置火车采集器的时候，也是要先利用WSockExpert.exe工具获得Post数据包，之后修改用户名和密码，向服务器提交的。
提交了登陆数据后还没完成登陆，虽然服务器会返回登陆后的页面数据，但是如果在进入其他的链接页面，还是不允许的，因为服务器每次都需要通过你提交过去Cookies来验证你是否登陆，在asp.net里，利用Cookies存储身份验证票证，每次都需要向服务器提交的，初学asp.net总是弄不明它的form验证机制，它封装了太多信息，虽然用几行代码就能实现验证，后来看了些web开发基础知识才弄明白，在这个你需要保存上次登陆后返回的Cookies，在下次有其他请求时带上这个Cookies就可以了，怎么带上呢？下面是我在.net里的实现，很简单！
利用HttpWebRequest类的CookieContainer来保存，这个CookieContainer会保存服务器回传的Cookies，但是前提是你在初始化HttpWebRequest的时候，记得实例化这个CookieContainer，一般的请求不需要实例它的，简单的代码如下：
httpWebRequest = (HttpWebRequest)HttpWebRequest.Create(URL);
httpWebRequest.CookieContainer = new CookieContainer();
httpWebRequest.ContentType = "application/x-www-form-urlencoded";
httpWebRequest.Method = "POST"
为了能全局使用这个CookieContainer ，你可以把它作为全局变量，这样在下次request的时候将其赋给CookieContainer 属性就行了。
详细了解CookieContainer 见：http://msdn.microsoft.com/zh-cn/vstudio/system.net.cookiecontainer(VS.80).aspx
维护了这个CookieContainer 后，我们就可以访问登陆后的页面了，模拟登陆问题解决。
其次遇到的问题自然是：如果从网页上获得想要的信息？
要在网页抓取信息，实现起来最简单，同时也是最繁琐的方法，那就是模板方法获取了，从火车采集器的配置过程看出来，它也就是用这种方法而已，不过人家能把抓取器做成成熟的产品，并�
相关文档：
1、在compilation 下，请设置debug=false ，如下：
default Language="c#" debug="false">
2、请使用Server.Transfer代替Response.Redirect。
3、使用Validator控件，请要经常检查Page.IsValid。
4、请使用foreach循环，而不是为字符串迭代循环。
5、请使用客户端验证方式(不要每次都在服务端验证)。
6、为了避免� ......
---------------------------------------
Asp.Net,C#,SQL,JS,WCF,AJAX,工作流,WPF,MVC,LINQ,设计模式(架构)等技术讨论
“ASP.NET(C#)Fans” QQ群：96877690
---------------------------------------
不管是J2SE、J2EE还是J2ME敬请加入！Eclipse、NetBeans
Java交流QQ高级群扩招：96878255 ......
Page.Response属性只有在页面代码中，或者说在继承自: System.Web.UI.Page的类中才有。其他即使using System.Web.UI 也无法使用Page.Response属性。否则编译时报错：当前上下文中不存在名称"Response"
解决方法：可以用System.Web.HttpContext.Current.Res ......
在安全性要求不是很高的ASP.Net程序中，基于Forms的身份验证是经常使用的一种方式，而如果需要对WebService进行身份验证，最常用的可能是基于Soap 标头的自定义身份验证方式。如果对两者做一下比较的话，显然，基于Forms的验证方式更加方便易用，能否将Forms验证方式应用到WebService中去呢？
从理论� ......
