社区
Java
帖子详情
自动抓取动态网页(网页使用ajax、js技术)中下一页的信息
菜的抠脚弟弟
2013-07-21 03:48:05
大家好,最近在写一个简单的爬虫程序。现在需要爬一个网页信息,但该网页为动态网页,网页内容使用分页效果,并且下一页的路径用js封装了,所以小弟只能爬到当前界面信息,下一页的不知如何抓取。网上查了一些资料,但都没有找到合适的答案,希望做个这一方面的朋友能给个指点,最好详细一些。在此先谢过大家了
...全文
425
5
打赏
收藏
自动抓取动态网页(网页使用ajax、js技术)中下一页的信息
大家好,最近在写一个简单的爬虫程序。现在需要爬一个网页信息,但该网页为动态网页,网页内容使用分页效果,并且下一页的路径用js封装了,所以小弟只能爬到当前界面信息,下一页的不知如何抓取。网上查了一些资料,但都没有找到合适的答案,希望做个这一方面的朋友能给个指点,最好详细一些。在此先谢过大家了
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
5 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
paladinosment
2014-02-28
打赏
举报
回复
关注,基本难点都这样。我个人认为也是跟模拟登陆一样。用js提交申请,接收返回的url
gobitan
2014-02-13
打赏
举报
回复
顶,看来遇到类似问题的人很多,等我解决后一定写篇文章出来与大家分享一下。
wblzu
2013-11-09
打赏
举报
回复
请问这个解决了吗?我也有同样的需求
aaaabbbccd9876
2013-07-21
打赏
举报
回复
将js封装的url抓过来
猫大叔
2013-07-21
打赏
举报
回复
可以分析源码找出下一页的url, 也可以使用网络抓包工具看看他下一页是发送的url
Python-
抓取
股票
信息
学习利用
抓取
股票
信息
如何
抓取
ajax
网页
,如何
抓取
AJAX
动态
页面
笔者已经发表过多篇述及
AJAX
动态
页面
抓取
原理的文章,本文将进行一次总结,首先,下面是以前文章的汇总:当发表一文时,对MetaSeekerV4.2.0版本进行了升级,以便
抓取
异步加载的
AJAX
页面内容,经过大量测试,发现V4.2.0B57之后的版本
抓取
AJAX
动态
页面和非
AJAX
页面的精度不够稳定,因此,升级成V4.3.0版本,本文同时展示页面
抓取
软件工具包MetaSeekerV4.3.0版本的增...
ajax
动态
加载
网页
抓取
(转载)
具体数据请求的方法请看:https://zhuanlan.zhihu.com/p/35682031
ajax
动态
加载
网页
抓取
Dwzb 统计专业学生 25 人赞了该文章
AJAX
是一种在无需重新加载整个
网页
的情况下,能够更新部分
网页
的
技术
。 举一个例子,打开这个页面,先不要动,观察右边滚动条的长度,然后当你把滚动条下拉到底之后,滚动条就变短了,即页面变长了,也就是说有一部...
小猪的Python学习之旅 —— 5.
使用
Selenium
抓取
JavaScript
动态
生成数据的
网页
小猪的Python学习之旅 —— 5.
使用
Selenium
抓取
JavaScript
动态
生成数据的
网页
标签: Python 引言 之前抓的妹子图都是直接抓Html就可以的,就是Chrome的浏览器F12的 Elements页面结构和Network抓包返回一样的结果。后面在
抓取
一些 网站(比如煎蛋,还有那种小网站的时候)就发现了,Network那里抓包 获取的数据没有,而Elem...
Scrapy如何实现
抓取
动态
网页
作者:张昌昌
动态
网页
指几种可能:1)需要用户交互,如常见的登录操作;2)
网页
通过
JS
/
AJAX
动态
生成,如一个html里有,通过
JS
生成aaa;3)点击输入关键字后进行查询,而浏览器url地址不变 第一种方法:直接url法 (1)认真分析页面结构,查看
js
响应的动作; (2)借助于firfox的firebug分析
js
点击动作所发出的请求url; (3
Java
50,528
社区成员
85,607
社区内容
发帖
与我相关
我的任务
Java
Java相关技术讨论
复制链接
扫一扫
分享
社区描述
Java相关技术讨论
java
spring boot
spring cloud
技术论坛(原bbs)
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章