用python写爬虫时遇到这种情况:[]

爆炒小青蛙 2018-03-03 02:45:32
看书时遇到的问题,感觉不是程序的问题,不知道我是不是哪里没有配置好,程序如下,

import requests
from lxml import etree
headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.186 Safari/537.36'
}
url='https://www.qiushibaike.com/text/'
res=requests.get(url,headers=headers)
selector=etree.HTML(res.text)
id1=selector.xpath('//*[@id="qiushi_tag_120063427"]/div[1]/a[2]/h2')
print(id1)


最后显示的结果是:[<Element h2 at 0x194853653c8>]

其实之前也有过这种情况,跑了一个画出分类图的程序,运行完之后显示:
<matplotlib.figure.Figure at 0xd48d908>

<matplotlib.figure.Figure at 0xd24b9b0>

<matplotlib.figure.Figure at 0xeaf8390> 很困惑啊求大神帮忙!!














...全文
4722 3 打赏 收藏 转发到动态 举报
写回复
用AI写文章
3 条回复
切换为时间正序
请发表友善的回复…
发表回复
taoyuanyuan_ 2020-12-11
  • 打赏
  • 举报
回复 3
今天也遇到了这种情况,现已解决,提取那里继续在列表里(出现这个问题不是没爬出来,是爬出来的东西组成了列表)提取需要的东西,比如要提取字符串,就接着/text(),要提取类里面的就/@class,另,菜鸟一枚,欢迎指正。
  • 打赏
  • 举报
回复
id1=selector.xpath('//*[@id="qiushi_tag_120063427"]/div[1]/a[2]/h2')
这一部分的内容,可能需要在后面加上一个内容,
id1=selector.xpath('//*[@id="qiushi_tag_120063427"]/div[1]/a[2]/h2/text()')[0]
试一下这样,或许是可以的。
guoshi38 2018-10-07
  • 打赏
  • 举报
回复
这是因为用xpath抓取的是标签属性值,而非标签内容
id1=selector.xpath('//*[@id="qiushi_tag_120063427"]/div[1]/a[2]/h2').[0].text
就可以获得需要的内容,需要注意若selector.xpath('//*[@id="qiushi_tag_120063427"]/div[1]/a[2]/h2')获得的数据为空则不可用索引,所以建议采用:
id1 = selector.xpath('//*[@id="qiushi_tag_120063427"]/div[1]/a[2]/h2')
# 采用Lambda表达式将空列表替换为‘blackName’,要是采用中文字符需注意编码
id1 = id1[0].text if id1 != [] else "blackName"
【为什么学爬虫?】        1、爬虫入手容易,但是深入较难,如何出高效率的爬虫,如何出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程中可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑

3,423

社区成员

发帖
与我相关
我的任务
社区描述
其他开发语言 其他开发语言
社区管理员
  • 其他开发语言社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧