Java网络爬虫技术

backcolorelias 2011-10-03 05:53:03
公司突然要我去研究网络爬虫技术,之前没接触过,在网上大概了解了下,觉得这方面资料好像比较少,麻烦有经验的同行给点实际性的建议和指导,最好有一个源码看看,如何去网上抓取别人网页中我需要的URL,整个具体流程是怎样的?想直接看源码,首先是爬虫如何实现,其次是如何通过爬虫程序去遍历意向网页,然后遍历网页的同时如何读取想要的东西?给个小例子就行,不胜感激。
...全文
27145 31 打赏 收藏 转发到动态 举报
写回复
用AI写文章
31 条回复
切换为时间正序
请发表友善的回复…
发表回复
gongpan10 2014-06-10
  • 打赏
  • 举报
回复
我也想要代码?
zhjdg 2014-05-24
  • 打赏
  • 举报
回复
有空看看
卡卡罗特ING 2014-05-24
  • 打赏
  • 举报
回复
新人看看
etracer 2014-05-23
  • 打赏
  • 举报
回复
記録一下、感謝
在外的少年 2014-05-23
  • 打赏
  • 举报
回复
爬虫 从来没有接触过 不过看到楼上的解答 好像知道了一点点
懒人的懒 2014-05-10
  • 打赏
  • 举报
回复
同在研究,大神的书真是雪中送炭啊
haorengoodman 2014-05-10
  • 打赏
  • 举报
回复
一直想接触一下,这回借楼主的东风仔细研究一下
leokelly001 2014-05-09
  • 打赏
  • 举报
回复
顶楼主呢。同求代码
代码间的舞者 2014-04-13
  • 打赏
  • 举报
回复
挖坟贴...
dokia123 2014-04-13
  • 打赏
  • 举报
回复
http://java-source.net/open-source/crawlers 这个是专门针对java的爬虫技术,是开源的,楼主可以去看看。
c0py_ninj4 2014-04-13
  • 打赏
  • 举报
回复
网络爬虫是什么东东,
sxyjjj 2014-04-12
  • 打赏
  • 举报
回复
Alanzhou007 2012-12-03
  • 打赏
  • 举报
回复
huangleijay 2012-12-02
  • 打赏
  • 举报
回复
java基础知识而已,用正则咯
Jason901023 2012-12-02
  • 打赏
  • 举报
回复
我做过网络爬虫,用的是HttpParser和HttpComponent(原名HttpClient),你研究一下这两个就ok了,至于算法方面就按照图的遍历来做了,DFS或者BFS看你的需求了。
yjflinchong 2012-11-30
  • 打赏
  • 举报
回复
yjflinchong 2012-11-30
  • 打赏
  • 举报
回复
学爬虫? http://yijianfengvip.blog.163.com/blog/static/17527343220121027113418509/ 我的爬虫系列专题
Sky牟天 2012-11-29
  • 打赏
  • 举报
回复
恰好我之前有研究过,这里是一个非常好的例子: 使用 HttpClient 和 HtmlParser 实现简易爬虫 HttpClient和HtmlParser来自第三类库(文章中会介绍),模拟的一个Http客户端,可以程序化发起浏览页面的请求,然后用HtmlParser来不断抽取需要的网址,然后发起新的访问,由此循环下去,直到“爬”完所有网页。
乌咔咔酥 2012-11-29
  • 打赏
  • 举报
回复
网络机器人Java编程指南源代码可以上作者的网页下载 http://www.jeffheaton.com/java/bot/updates.shtml
乌咔咔酥 2012-11-29
  • 打赏
  • 举报
回复
引用 1 楼 Ol_lO 的回复:
有这么几本书 1,网络机器人Java编程指南,浅显易懂,有点过时,但适合新手 2,自己动手写网络爬虫,有点基础还可以看看,写的有点乱,很多内容交代不清楚,并且大篇幅代码抄袭。。。 3,搜索引擎 ——原理、技术与系统,北大天网为案例,很好很强大,有点学术味道 4,Web数据挖掘 Bing Liu,刘兵的书,强烈推荐 5,搜索引擎:信息检索实践,很好的书,强烈推荐……
这位兄弟推荐的书很靠谱~
加载更多回复(11)

67,518

社区成员

发帖
与我相关
我的任务
社区描述
J2EE只是Java企业应用。我们需要一个跨J2SE/WEB/EJB的微容器,保护我们的业务核心组件(中间件),以延续它的生命力,而不是依赖J2SE/J2EE版本。
社区管理员
  • Java EE
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧