社区
脚本语言
帖子详情
这种网站爬去遇到问题请问怎么回事?
江南大富翁
2017-11-08 03:23:32
想去爬虫 无讼案例 上面的案例进行学习,打开一个网页是能看到内容,可是看源代码都是主页的源代码,python爬下来的也都是主页的源代码,请问大家,这是怎么回事儿?
...全文
211
2
打赏
收藏
这种网站爬去遇到问题请问怎么回事?
想去爬虫 无讼案例 上面的案例进行学习,打开一个网页是能看到内容,可是看源代码都是主页的源代码,python爬下来的也都是主页的源代码,请问大家,这是怎么回事儿?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
2 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
CaiNiaoWuZui
2017-11-08
打赏
举报
回复
爬下来的当然都是主页源代码,网页的内容就包含在源代码里面。使用正则表达式/lxml/beautifulsoup 提取你想要的内容就行了。 如果源代码里面没有你想要的内容,那用f12看看要发哪一个请求才能得到你的内容。 如果看到的是乱码,那么decode()解码一下即可.
oyljerry
2017-11-08
打赏
举报
回复
是否扒取到正确URL了。内容不对,是不是页面异步加载的
网站
有反
爬
机制就
爬
不了数据?那是你不会【反】反
爬
,道高一尺魔高一丈啊
本文介绍常见
网站
反
爬
机制,包括检测Headers、用户行为及动态页面加载,并提供实用应对策略。
某
网站
JS加密、OB混淆与CSS反
爬
实战分析
本文介绍了针对一个小说
网站
的反
爬
分析,涉及JS加密、OB混淆和CSS反
爬
策略。通过分析请求和JS代码,定位并解密了加密内容,揭示了解密过程,并提出两种内容还原方案,包括利用解密函数和JS注入渲染。
电商
网站
反
爬
策略
本文探讨了电商
网站
的严格反
爬
策略,包括通过验证码、selenium检测等方式阻止
爬
虫。针对这些
问题
,提出了修改selenium设置以规避检测,并详细介绍了如何启用代理,特别是使用mitmproxy设置上游代理服务器来应对反
爬
挑战。
Python
爬
虫入门教程 64-100 反
爬
教科书级别的
网站
-汽车之家,字体反
爬
之二
本文详细介绍了如何应对汽车之家
网站
的反
爬
策略,从解析CSS3语法隐藏的数据,到找出并处理汽车参数的关键信息,再到利用JS规则解密混淆数据,并最终实现数据入库。通过实例讲解了Python
爬
虫面对反
爬
时的应对方法,适合初学者提升
爬
虫技能。
你真的懂反
爬
机制吗?5种常见
网站
反
爬
方式详解与对策
随着
爬
虫技术普及,
网站
采用反
爬
机制保护数据。本文介绍反
爬
机制概念,详细阐述5种常见反
爬
方式,包括IP封禁、请求头校验等,给出对应策略,如使用代理IP池、模拟真实请求头。还总结反
爬
对策,提供实践小技巧,强调
爬
虫技术需随反
爬
机制升级。
脚本语言
37,739
社区成员
34,211
社区内容
发帖
与我相关
我的任务
脚本语言
JavaScript,VBScript,AngleScript,ActionScript,Shell,Perl,Ruby,Lua,Tcl,Scala,MaxScript 等脚本语言交流。
复制链接
扫一扫
分享
社区描述
JavaScript,VBScript,AngleScript,ActionScript,Shell,Perl,Ruby,Lua,Tcl,Scala,MaxScript 等脚本语言交流。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
试试用AI创作助手写篇文章吧
+ 用AI写文章