开发搜索引擎爬虫程序的网页下载程序,如何不堵塞tcp

alineo 2010-02-20 04:19:56
用java做了个爬虫程序,没搞清楚http1.0和http1.1,如何利用持续链接或者socket下载等手段,不让Ip端口用完,而且下载速度要快,我要下载的都是生成好的某一个网站的所有url的。
...全文
36 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

50,639

社区成员

发帖
与我相关
我的任务
社区描述
Java相关技术讨论
javaspring bootspring cloud 技术论坛(原bbs)
社区管理员
  • Java相关社区
  • 小虚竹
  • 谙忆
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧