求助:关于爬取哔哩哔哩商品评论的问题

击剑boy 击剑boy 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
大二学生,非计算机专业,想写一篇关于b站新电商模式(不是会员购)的调查报告。看过一些文章教学,在爬取数据的时候遇到了一些问题。 1.b站up空间内的商品界面在电脑上无对应的界面,于是我只能把手机界面网址复制到pc段浏览器打开。开发者工具中我找到了评论列表的文件,在响应中我看到了json格式的字段,但是不知道从哪里找到对应的地址用requests抓取。 2.我发现另一个问题就是 如图的"alist"文件是分开的,随着网页下拉加载而出现,于是无从下手。 有没有大佬愿意指点一下,万分感谢了
...全文

相关推荐

PYTHON爬取京东商品评论

京东商品评论是动态网页,用get请求,但是得到之后不是json,所以就需要去一个参数或者返回text,然后用切片 1、更改url参数返回json url获取方法:打开京东商品,用谷歌开发者工具,找到network,然后刷新,查找comments,找到返回评论的那个文件。找到url后,去除参数callback即可返回json (1)获取 import requests def get_comments(url): headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTM

weixin_38713801

python爬虫---如何爬取京东商品评论并进行数据存储

1.爬取商品的ID 我们首先观察商品链接的构成形式 我们会发现仅仅只是id的数字不同,那么我们只要获取到这串数字,就可以构造链接进入商品详情页中了。 那么我们先在搜索界面中打开开发者工具,观察网页代码形式,找到我们需要爬取的数据所存在的位置。 我们成功找到了数据所在位置,那么就对其进行爬取,实现代码如下: #获取搜索商品名界面的每个商品的序号 def get_number(name): ...

coast_s

python爬虫爬取淘宝天猫商品评论数据教程(附源码)

最近,因为工作需要,需要获取天猫某一商品的全部评论数据。于是,写了一个python脚本,自动爬取所有评论。做个记录。 一、准备阶段 获取评论数据来源 天猫的评论数据一般会放在JS文件里,故我们只需要打开商品页,快捷键Fn+F12,选择NetWork,筛选JS文件,找到名称为“rate.tmall....”开头的文件。 复制JS文件的链接,在新的页面打开访问。 b...

AI大玩家

23行代码输入视频地址爬取哔哩哔哩弹幕,并分行打印到文件夹中

这篇单纯为了纪念一下自己的第一份爬虫代码,诶,学习过程属实不易!中途一直被弹幕输出格式为\xe7\x8e\x8b\xe8\x80\x85\xe5\x86\x9c\xe8\x8d\xaf……的bytes形式(也是网上搜了才晓得 诶…)的字符串给整自闭了,后来找了老久终于发现了 str.encode(“raw_unicode_escape”).decode() 这个神奇的代码,可将此str转化为bytes, 再decode转为str,这样便能输出正常的字符串了! 下面附上源码(第一次写可能还有很多需要改进的地方,但初次尝试就先这样吧 后面再努力写出更好的代码) 使用的python版本为pytho

weixin_38673909

【MATLAB实战应用代码】MATLAB爬取哔哩哔哩视频.zip

【MATLAB实战应用代码】MATLAB爬取哔哩哔哩视频.zip

文宇肃然
评论 1
收藏 已收藏
分享
返回顶部
击剑boy
脚本语言 37,738 成员 34,208 内容