关于python爬虫-爬糗百

Malloc_Measurement 2015-07-28 01:59:09
为什么我没有跑通,显示连接失败。。。
求带飞。。。
代码如下:



# -*- coding: utf-8 -*-
import urllib2
import urllib
import re
import thread
import time

class Spider_Model:
def __init__(self):
self.page = 1
self.pages = []
self.enable = False

def GetPage(self,page):
myUrl = "http://m.qiushibaike.com/hot/page/" + page
user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'
headers = { 'User-Agent' : user_agent }
req = urllib2.Request(myUrl, headers = headers)
myResponse = urllib2.urlopen(req)
myPage = myResponse.read()
unicodePage = myPage.decode("utf-8")
myItems = re.findall('<div.* class="content".* title="(.* )">(.* )</div>',unicodePage,re.S)
items = []
for item in myItems:
items.append([item[0].replace("\n",""),item[1].replace("\n","")])
return items

def LoadPage(self):

while self.enable:

if len(self.pages) < 2:
try:
myPage = self.GetPage(str(self.page))
self.page += 1
self.pages.append(myPage)
except:
print '无法链接糗事百科'
else:
time.sleep(1)

def ShowPage(self,nowPage,page):
for items in nowPage:
print u'第%d页' % page , items[0] , items[1]
myInput = raw_input()
if myInput == "quit":
self.enable = False
break

def Start(self):
self.enable = True
page = self.page
print u'正在加载中请稍候......'
thread.start_new_thread(self.LoadPage,())
while self.enable:
if self.pages:
nowPage = self.pages[0]
del self.pages[0]
self.ShowPage(nowPage,page)
page += 1

print u"""
---------------------------------------
程序:糗百爬虫
版本:0.3
作者:why
日期:2014-06-03
语言:Python 2.7
操作:输入quit退出阅读糗事百科
功能:按下回车依次浏览今日的糗百热点
---------------------------------------
"""
print u'请按下回车浏览今日的糗百内容:'
raw_input(' ')
myModel = Spider_Model()
myModel.Start()
...全文
236 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
sprawling 2015-07-28
  • 打赏
  • 举报
回复
可以抓取的,没问题啊。
加个print看看你就知道了。

37,720

社区成员

发帖
与我相关
我的任务
社区描述
JavaScript,VBScript,AngleScript,ActionScript,Shell,Perl,Ruby,Lua,Tcl,Scala,MaxScript 等脚本语言交流。
社区管理员
  • 脚本语言(Perl/Python)社区
  • IT.BOB
加入社区
  • 近7日
  • 近30日
  • 至今

试试用AI创作助手写篇文章吧