关于python爬虫同时抓取上万个网站的方法

prog_cxy 2017-12-04 11:38:04

这段时间公司要求抓全国的一类网站，网站虽然都是一类的，但是结构也是各有不同，目前是抓了几十个上百个测试，我使用的是scrapy多爬虫爬取，感觉也不是特别好，所以在寻找更好的方法或者框架，看看有没有一些好的建议

...全文

2079 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

风云路上想改名 2019-01-17

打赏
举报

回复

标签的定位，定位成功的概率，数据和想要的数据对应的上的概率

kevinkkkf 2018-03-13

打赏
举报

回复

这个对算法要求很高啊

网络爬虫抓取特定网站网页的html数据，但是一个网站有上千上万条数据，我们不可能知道网站网页的url地址，所以，要有个技巧去抓取网站的所有html页面。Scrapy是纯Python实现的爬虫框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常之方便～ Scrapy 使用wisted这个异步网络库来处理网络通讯，架构清晰，并且包含了各种中间件接口，可以灵活的完成各种需求。整体架构如下图所示：绿线是数据流向，首先从初始URL 开始，Scheduler 会将其交给 Downloader 进行下载，下载之后会交给 Spider 进行分析，Spi

python面试宝典，该宝典是一份知识点全面又能不断更新，与时俱进的学习手册，不仅收录了作者亲身面试遇到的问题，还收录了近上万名黑马学子面试时遇到的问题。

爬虫采集素材，素颜小照片，https://dream.blog.csdn.net/article/details/118385640

原标题：python爬虫超简单攻略，带你写入门级的爬虫，抓取上万条信息最近经常有人问我，明明看着教程写个爬虫很简单，但是自己上手的时候就麻爪了。。。那么今天就给刚开始学习爬虫的同学，分享一下怎么一步一步写爬虫，直至抓到数据的过程。准备工具首先是工具的准备：python3.6、pycharm、requests库、lxml库以及火狐浏览器这2个库都是python的第三方库，需要用pip安装一下！req...

243

社区成员

4,811

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章