爬虫 抓取APP上的信息 可行性?

菜鸟大明 2015-01-23 09:48:07
爬取一些社交App的信息,如注册用户的昵称、头像、评论等
...全文
1190 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
大漠风沙鸭 2019-01-03
  • 打赏
  • 举报
回复
头像、用户名称都可以直接看到,一些APP评论内容是加密的,需要解密。
hanyangang 2016-01-25
  • 打赏
  • 举报
回复
1 手机端用自动化测试工具uiautomator等等,模拟点击操作 2 利用抓包工具监控请求结果
菜鸟大明 2015-01-23
  • 打赏
  • 举报
回复
引用 1 楼 w405112941 的回复:
抓APP上的没玩过,帮顶 如果是手机上的网页的话,应该可以通过设置User-Agent来访问到的吧。具体没试过,不知道可不可以
是,我查到了一些解决方案,比如用户代理,抓数据包等。但目前都是解决方案,数据包的协议是否加密,解析的工作量等等都没有进一步调研。 因此,想看看大家有没有做过,或者给提供一些可行性思路。
The_end90 2015-01-23
  • 打赏
  • 举报
回复
抓APP上的没玩过,帮顶 如果是手机上的网页的话,应该可以通过设置User-Agent来访问到的吧。具体没试过,不知道可不可以
【为什么学爬虫?】        1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程中可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑

50,523

社区成员

发帖
与我相关
我的任务
社区描述
Java相关技术讨论
javaspring bootspring cloud 技术论坛(原bbs)
社区管理员
  • Java相关社区
  • 小虚竹
  • 谙忆
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧