自动抓取动态网页(网页使用ajax、js技术)中下一页的信息

菜的抠脚弟弟 2013-07-21 03:48:05
大家好,最近在写一个简单的爬虫程序。现在需要爬一个网页信息,但该网页为动态网页,网页内容使用分页效果,并且下一页的路径用js封装了,所以小弟只能爬到当前界面信息,下一页的不知如何抓取。网上查了一些资料,但都没有找到合适的答案,希望做个这一方面的朋友能给个指点,最好详细一些。在此先谢过大家了
...全文
425 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
paladinosment 2014-02-28
  • 打赏
  • 举报
回复
关注,基本难点都这样。我个人认为也是跟模拟登陆一样。用js提交申请,接收返回的url
gobitan 2014-02-13
  • 打赏
  • 举报
回复
顶,看来遇到类似问题的人很多,等我解决后一定写篇文章出来与大家分享一下。
wblzu 2013-11-09
  • 打赏
  • 举报
回复
请问这个解决了吗?我也有同样的需求
aaaabbbccd9876 2013-07-21
  • 打赏
  • 举报
回复
将js封装的url抓过来
猫大叔 2013-07-21
  • 打赏
  • 举报
回复
可以分析源码找出下一页的url, 也可以使用网络抓包工具看看他下一页是发送的url

50,528

社区成员

发帖
与我相关
我的任务
社区描述
Java相关技术讨论
javaspring bootspring cloud 技术论坛(原bbs)
社区管理员
  • Java相关社区
  • 小虚竹
  • 谙忆
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧