求助，关于网络爬虫的HTTP/1.1

bigkite 2011-12-26 01:56:57

在学网络爬虫编程，构建http head时，发现有的网站的页面需要“GET /xxx HTTP/1.1\r\n"而有的只能是”GET /xxx\r\n“否则forbiden. 为什么。

...全文

98 回复打赏收藏举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

1.认识网络爬虫网络爬虫爬虫的合法性 HTTP协议请求与响应(重点) 网络爬虫爬虫的全名叫网络爬虫，简称爬虫。他还有其他的名字，比如网络机器人，网络蜘蛛等等。爬虫就好像一个探测机器，它的基本操作就是模拟人的行为去各个网站溜达，点点按钮，查查数据，或者把看到的信息背回来。就像一只虫子在一幢楼里不知疲倦地爬来爬去。你可以这样理解，每个爬虫都是你的分身。就像孙悟空拔了一撮汗毛，吹出一堆猴子一样。你每天使用的百度，其实就是利用了这种爬虫技术：每天放出无数爬虫到各个网站，把他们的信

又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。网络爬虫可以根据指定的规则，从互联网上下载网页、图片、视频等内容，并抽取其中的有用信息进行处理。网络爬虫的工作流程包括获取网页源代码、解析网页内容、存储数据等步骤。根据其目的和工作方式的不同，网络爬虫可以分为多种类型。常见的网络爬虫包括通用爬虫、聚焦爬虫、增量式爬虫等。

网络爬虫（也称为网页蜘蛛、网络机器人）是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。网络爬虫可以用于从网站提取数据，例如监测社交媒体平台上的活动，或者从网上收集新闻和文章。它们也可以用于搜索引擎，如Google和Bing，来抓取和索引网页，以便在用户进行搜索时提供结果。URL通常由多个部分组成，包括协议类型（如HTTP、HTTPS）、主机名（域名或IP地址）、路径（资源在主机上的位置）以及可选的查询参数（用于传递额外的信息）。通过URL，用户可以方便地访问和定位到特定的网络资源。

本文介绍了网络爬虫的基础概念与应用。主要内容包括：1）爬虫定义与分类，分为通用、聚焦、增量式和深层网络爬虫四种类型；2）核心工作原理，涉及HTTP请求过程、响应结构和网页基础；3）常见爬取策略如宽度优先（BFS）和深度优先（DFS）遍历；4）Python中Requests库的使用方法，包括请求发送、响应处理和异常捕获。文章通过百度网页爬取实例，展示了网络爬虫从发送请求到获取响应的完整流程，为初学者提供了网络数据采集的基础知识框架。

网络爬虫（又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。类型：网络爬虫按照系统结构和实现技术，大致可以分为以下几种：通用网络爬虫（General Purpose Web Crawler）、聚焦网络爬虫（Focused Web Crawler）、增量式网络爬虫（Incremental Web Crawler）、深层网络爬虫（Deep Web Crawler）。

65,213

社区成员

250,514

社区内容

发帖

与我相关

我的任务

c++ 技术论坛（原bbs）

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

请不要发布与C++技术无关的贴子
请不要发布与技术无关的招聘、广告的帖子
请尽可能的描述清楚你的问题，如果涉及到代码请尽可能的格式化一下

试试用AI创作助手写篇文章吧

+ 用AI写文章