ASP.NET 写的爬虫程序被屏蔽了,大家帮忙看看

acertemper 2016-08-07 10:50:14
调试了好几个小时,找了好多方法,求大师帮忙



String server = "http://202.114.74.198/";
//请求URL
HttpWebRequest req = (HttpWebRequest)WebRequest.Create(url);
req.Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8";
req.ContentType = "application/x-www-form-urlencoded";
req.Headers.Add("Accept-Language: zh-CN,zh;q=0.8");
req.AllowAutoRedirect = false;
req.UserAgent = "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36";
req.KeepAlive = true;
req.Method = "GET";
req.Referer = server;
req.Timeout = 10000;
//获取Response
HttpWebResponse rep = (HttpWebResponse)req.GetResponse();
//rep.Cookies = req.CookieContainer.GetCookies(req.RequestUri);
//创建StreamReader与StreamWriter文件流对象
StreamReader sr = new StreamReader(rep.GetResponseStream(), Encoding.UTF8);
result = sr.ReadToEnd();
sr.Close();
sr.Dispose();
...全文
172 4 打赏 收藏 转发到动态 举报
写回复
用AI写文章
4 条回复
切换为时间正序
请发表友善的回复…
发表回复
wyn4397198 2016-08-07
  • 打赏
  • 举报
回复
现在很多网站为了防止爬虫,都加了token,楼主看看是不是有token验证。
acertemper 2016-08-07
  • 打赏
  • 举报
回复
模拟了GOOGLE浏览器访问,但是一抓取,就自动跳转了,用电脑浏览器是可以正常访问的
秋的红果实 2016-08-07
  • 打赏
  • 举报
回复
首先,这个网址现在是打不开的 之所以跳转,可能是你的浏览器原因,当打不开某网页时自动跳转到别的指定网站;你的代码不会跳转
泥菩萨 2016-08-07
  • 打赏
  • 举报
回复
抓的哪个网址?有可能是cookie验证了哦。

62,074

社区成员

发帖
与我相关
我的任务
社区描述
.NET技术交流专区
javascript云原生 企业社区
社区管理员
  • ASP.NET
  • .Net开发者社区
  • R小R
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

.NET 社区是一个围绕开源 .NET 的开放、热情、创新、包容的技术社区。社区致力于为广大 .NET 爱好者提供一个良好的知识共享、协同互助的 .NET 技术交流环境。我们尊重不同意见,支持健康理性的辩论和互动,反对歧视和攻击。

希望和大家一起共同营造一个活跃、友好的社区氛围。

试试用AI创作助手写篇文章吧