[爬虫] 网站怪我抓取网页太快, BAN 了我 5 分钟? 肿么办?

MaMMoN2017 2018-04-24 10:45:59
现在网站用什么技术来判断短时间内访问过多的啊? 我试过加 cookie 了, 没用. 只能睡 300 秒么?
...全文
2091 4 打赏 收藏 转发到动态 举报
写回复
用AI写文章
4 条回复
切换为时间正序
请发表友善的回复…
发表回复
mcxxkj 2018-04-25
  • 打赏
  • 举报
回复
因为你是同一个IP, 一直在访问,很容易就判断出来
  • 打赏
  • 举报
回复
第一就是User-Agent:**********,第二就是ip地址,第三是能不登录就不登陆,登陆以后可能会记录你的行为,如果必须登录,可以使用多账号来爬取,还有一些其它的就是不通用的了

37,719

社区成员

发帖
与我相关
我的任务
社区描述
JavaScript,VBScript,AngleScript,ActionScript,Shell,Perl,Ruby,Lua,Tcl,Scala,MaxScript 等脚本语言交流。
社区管理员
  • 脚本语言(Perl/Python)社区
  • IT.BOB
加入社区
  • 近7日
  • 近30日
  • 至今

试试用AI创作助手写篇文章吧