httpclient抓取页面数据只返回一半

meidaizissn 2013-12-28 04:40:54

用httpclient3抓微博抓取，有部分页面，只抓取到抓取一半数据，有的是<html></html> ，更神奇的是返回的页面信息就一个字母 _IGNORE
请问是什么情况导致！！！
重谢！！！求教了！！！

...全文

284 4 打赏收藏转发到动态举报

写回复

4 条回复

切换为时间正序

请发表友善的回复…

发表回复

meidaizissn 2013-12-30

打赏
举报

回复

没人会吗？？？？？？？?

苏格拉低 2013-12-30

打赏
举报

回复

[img=https://forum.csdn.net/PointForum/ui/scripts/csdn/Plugin/001/face/79.gif]顶！！！！[/img]

meidaizissn 2013-12-28

打赏
举报

回复

要疯掉了没人吗结贴率100

今天接到个需求，一个同学需要我帮忙爬取一下携程的民宿酒店数据。都知道携程难爬，我一不小心就掉坑里了。其实携程难爬的数据是酒店数据，而这个民宿应该是个新上线的业务，所以并没有做什么反爬手段，可惜老夫不知道啊，所以从中午接到电话就开始了折腾之路。第一阶段：人生苦短，我用python 刚一听到这个需求，就想用python来做，所以先装python环境，又装了pycharm，找了几个脚本，基本都...

Python 网络爬虫与数据采集第1章序章网络爬虫基础1 爬虫基本概述1.1 爬虫是什么1.2 爬虫可以做什么1.3 爬虫的分类1.4 爬虫的基本流程1.4.1 浏览网页的流程1.4.2 爬虫的基本流程1.5 爬虫与反爬虫1.5.1 爬虫的攻与防1.5.2 常见的反爬与反反爬1.6 爬虫的合法性与 robots 协议1.6.1 robots 协议1.6.2 查看网页的 robots 协议1.7 Python 爬虫相关库2. Chrome 浏览器开发者工具2.1 Chrome 浏览器开发者工具简述2.1

http://blog.51cto.com/xpleaf/2093952 1 概述在不用爬虫框架的情况，经过多方学习，尝试实现了一个分布式爬虫系统，并且可以将数据保存到不同地方，类似MySQL、HBase等。基于面向接口的编码思想来开发，因此这个系统具有一定的扩展性，有兴趣的朋友直接看一下代码，就能理解其设计思想，虽然代码目前来说很多地方还是比较紧耦合，但只要花些时间和精力，很多都是可抽...

Sqoop ： SQL-to-Hadoop（Apache已经终止Sqoop项目）用途：把关系型数据库的数据转移到HDFS（Hive、Hbase）（重点使用的场景）；Hadoop中的数据转移到关系型数据库中。Sqoop是java语言开发的，底层使用mapreduce。需要注意的是，Sqoop主要使用的是Map，是数据块的转移，没有使用到reduce任务。Sqoop支持全量数据导入和增量数据导入（增量数据导入分两种，一是基于递增列的增量数据导入（Append方式）。二是基于时间列的增量数据导入（LastModi

第1章序章网络爬虫基础1 爬虫基本概述1.1 爬虫是什么1.2 爬虫可以做什么1.3 爬虫的分类1.4 爬虫的基本流程1.4.1 浏览网页的流程1.4.2 爬虫的基本流程1.5 爬虫与反爬虫1.5.1 爬虫的攻与防1.5.2 常见的反爬与反反爬1.6 爬虫的合法性与 robots 协议1.6.1 robots 协议1.6.2 查看网页的 robots 协议1.7 Python 爬虫相关库2. Chrome 浏览器开发者工具。

搜索引擎技术

2,759

社区成员

2,049

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章