社区
C#
帖子详情
如何抓取jS动态生成的网页数据
qq_36244016
2017-09-05 11:13:15
如何抓取jS动态生成的网页数据
...全文
1131
5
打赏
收藏
如何抓取jS动态生成的网页数据
如何抓取jS动态生成的网页数据
复制链接
扫一扫
分享
举报
写回复
配置赞助广告
用AI写文章
5 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
以专业开发人员为伍
2017-09-09
打赏
举报
回复
所以给偷数据的人提高点难度,在正规论坛上少讨论。
橘子皮...
2017-09-09
打赏
举报
回复
分析js,自己模拟生成啊
gagadun
2017-09-09
打赏
举报
回复
调试js 模拟执行js脚本 获取返回值
lovingkiss
2017-09-09
打赏
举报
回复
引用 3 楼 sp1234 的回复:
“抓取”失业,互联网的道德水平可以提高一点啊。
假设用户需要数据,国家机关官网存在此数据表,你是抓取还是不抓取呢? 1、官网是免费的数据,但是没提供批量下载,没提供查询接口,时不时的还不保证速度 2、客户需要的是本地快速反应的情况下 凡事没有一定之规~~ 别“偷”不该“偷”的就好,每个人的道德底线是不一样的。。。 天气预报本来是公众资源,但是官网非要让我花钱买 ——以你的道德标准会认为不该抓取,但是以我的道德标准我会认为无所谓。
webdiyer
2017-09-09
打赏
举报
回复
你可以了解下Selenium Webdriver,可能有点大材小用:
http://www.seleniumhq.org/projects/webdriver/
抓取
Js
动态
生成
数据
且以滚动页面方式分页的
网页
当我们在进行
数据
抓取
的时候,如果目标网站是以
Js
的方式
动态
生成
数据
且以滚动页面的方式进行分页,那么我们该如何
抓取
呢? 如类似今日头条这样的网站:http://toutiao.com/ 我们可以使用Selenium来搞定这件事情。Selenium的设计目的虽然是用于Web应用程序的自动化测试,但是却非常适合用来做
数据
抓取
,可以非常简单地绕过网站的反爬虫限制,因为Selenium直接运行在浏览...
小白用chatgpt编写python 爬虫程序代码
抓取
网页
数据
(
js
动态
生成
网页
元素)
jS
动态
生成
,由于呈现在
网页
上的内容是由
JS
生成
而来,我们能够在浏览器上看得到,但是在HTML源码中却发现不了。
小猪的Python学习之旅 —— 5.使用Selenium
抓取
JavaScript
动态
生成
数据
的
网页
小猪的Python学习之旅 —— 5.使用Selenium
抓取
JavaScript
动态
生成
数据
的
网页
标签: Python 引言 之前抓的妹子图都是直接抓Html就可以的,就是Chrome的浏览器F12的 Elements页面结构和Network抓包返回一样的结果。后面在
抓取
一些 网站(比如煎蛋,还有那种小网站的时候)就发现了,Network那里抓包 获取的
数据
没有,而Elem...
python
抓取
网页
信息_python
抓取
网页
中的
动态
数据
一、概念
网页
中的许多
数据
并不是写死在HTML中的,而是通过
js
动态
载入的。所以也就引出了什么是
动态
数据
的概念,
动态
数据
在这里指的是
网页
中由Javascript
动态
生成
的页面内容,是在页面加载到浏览器后
动态
生成
的,而之前并没有的。在编写爬虫进行
网页
数据
抓取
的时候,经常会遇到这种需要
动态
加载
数据
的HTML
网页
,如果还是直接从
网页
上
抓取
那么将无法获得任何
数据
。二、操作1.先进入网址如:https://d...
如何
抓取
Js
动态
生成
数据
且以滚动页面方式分页的
网页
当我们在进行
数据
抓取
的时候,如果目标网站是以
Js
的方式
动态
生成
数据
且以滚动页面的方式进行分页,那么我们该如何
抓取
呢? 如类似今日头条这样的网站:http://toutiao.com/ 我们可以使用Selenium来搞定这件事情。Selenium的设计目的虽然是用于Web应用程序的自动化测试,但是却非常适合用来做
数据
抓取
,可以非常简单地绕过网站的反爬虫限制,因为Selenium直接运行在浏览...
C#
111,128
社区成员
642,534
社区内容
发帖
与我相关
我的任务
C#
.NET技术 C#
复制链接
扫一扫
分享
社区描述
.NET技术 C#
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
让您成为最强悍的C#开发者
试试用AI创作助手写篇文章吧
+ 用AI写文章