求助:关于爬取哔哩哔哩商品评论的问题

击剑boy 2019-05-09 11:50:49
大二学生,非计算机专业,想写一篇关于b站新电商模式(不是会员购)的调查报告。看过一些文章教学,在爬取数据的时候遇到了一些问题。 1.b站up空间内的商品界面在电脑上无对应的界面,于是我只能把手机界面网址复制到pc段浏览器打开。开发者工具中我找到了评论列表的文件,在响应中我看到了json格式的字段,但是不知道从哪里找到对应的地址用requests抓取。 2.我发现另一个问题就是 如图的"alist"文件是分开的,随着网页下拉加载而出现,于是无从下手。 有没有大佬愿意指点一下,万分感谢了
...全文
120 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
一笑程序猴 2019-05-10
  • 打赏
  • 举报
回复
1. 看你的截图右侧有个请求网址:https://xxx这个就是你要请求抓取的地址,请求方式是post请求,切换到参数也应该还有一些相应的参数
2. 分开的是因为列表采用了分页加载,你看一下参数里应该会有一些分页相关的参数
适用人群所有的IT从业者,尤其适合快速掌握新技术,快速增长工作经验人群,对教育公平,教育公益,教育爱心公益人士课程概述课程概述该互联网实战项目是基于腾讯开源Tdesign产品框架,前后端分离,开发项目实战,SpringBoot+SpringSecurity+Mybatisplus+MySQL+Knife4j中后台项目产品实战,包括图形展示、权限管理、用户管理等功能。【后端】Spring Boot2 框架 开发的一站式解决方案Spring Security5 认证和授权框架MyBatisPlus3.3.1 基于 MyBatis 框架的快速研发框架MyBatisCode工具生成 MyBatis 相关代码Jackson提供了处理 JSON 数据的工具Lombok简化对象封装工具 Druid   数据库连接池 【前端技术】Vue       互联网最火的前端框架Vue Router路由框架Vuex全局状态管理框架Axios前端 HTTP 框架TDesign 前端模板TDesign 是腾讯各业务团队在服务业务过程中沉淀的一套企业级设计体系。TDesign 提供了开箱即用的 UI 组件库、设计指南 和相关 设计资产,以优雅高效的方式将设计和研发从重复劳动中解放出来,同时方便大家在 TDesign 的基础上扩展,更好的的贴近业务需求。在腾讯内部以开源协同的方式,共建一个完善、易用的设计体系和组件库产品。【开发工具】IntelliJ IDEA开发 IDESQLyog数据库连接客户端PostmanHTTP 请求工具【开发环境】工具版本JDK1.8MySQL5.7 

37,720

社区成员

发帖
与我相关
我的任务
社区描述
JavaScript,VBScript,AngleScript,ActionScript,Shell,Perl,Ruby,Lua,Tcl,Scala,MaxScript 等脚本语言交流。
社区管理员
  • 脚本语言(Perl/Python)社区
  • IT.BOB
加入社区
  • 近7日
  • 近30日
  • 至今

试试用AI创作助手写篇文章吧