webclent.getpage问题

fenglvche 2015-11-14 05:52:14
最近在写一些爬虫的东西,有使用一些网站的OA的东西,但是JAVA代码使用htmlunit的时候出现了一些问题,它的webclient老是会出现不能链接的情况:
都是卡在HtmlPage checkPage = webClient.getPage(authorizationUrl);这里
1)做Facebook的提示
org.apache.http.conn.HttpHostConnectException: Connection to https://www.facebook.com refused
2)做豆瓣的提示
javax.net.ssl.SSLPeerUnverifiedException: peer not authenticated
然而,使用authorizationUrl里的地址,在chrome上打开都是可以进入使用的,返回的结果也跟预期一样,就是在java的tomcat上面一直会有这类错误
...全文
147 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
fenglvche 2015-11-15
  • 打赏
  • 举报
回复
可是我用的是他们的API啊,主要是在进入OA认证的时候,抓取不到认证的网页,但是,理论是应该要留给我们一个方法进去拿返回的code才是,如果拒绝了我的webclient.getpage的请求,那么应该怎么去获得那个code。
海会圣贤 2015-11-15
  • 打赏
  • 举报
回复
他们网站把你的爬虫禁了,就像你爬不到csdn一样。
源码下载地址: https://pan.quark.cn/s/40677b766bda "ContextCapture 倾斜摄影快速、创新及全面空三建模与单机集群硬件部署方案2018" 此资源聚焦于倾斜摄影(ContextCapture)空三建模及单机集群硬件部署方案,致力于为用户呈现最快、最优成本效益的台式工作站、移动工作站、并行集群的多样化部署选择。以下是该资源的详细知识点概述: 一、相关设备型号说明 * UltraLAB 是西安坤隆计算机科技有限公司推出的专属图形工作站品牌,具备三大卓越优势:顶尖的计算硬件架构、精准的行业应用定制服务、专业的硬件系统优化工艺。 二、硬件部署方案 * 台式工作站部署建议:设备特色在于当前市场上最快的台式计算架构,适用于办公场景下,部门层级常规的倾斜摄影空三处理、三维建模。 * 便携式工作站部署建议:设备特色在于当前市场上最快的移动计算架构,适用于移动倾斜摄影的空三处理、三维建模工作站。 * 大数据量处理工作站推荐:设备特色在于极限自动超频加速与16个并行存储构造,具备空三处理和三维建模最强的计算性能及海量高速并行存储性能。 * 多设备并行计算集群部署建议:针对海量图像数据计算产生的巨大需求,单机计算能力处理时间过长,效率不高,通过多台机器并行集群,进行空三处理、三维建模,显著减少处理时间。 三、部署方案深入解析 * 2.1 倾斜摄影建模(台式工作站)部署方案:设备特色在于最高的计算处理能力~6核5.2GHz,内存最大配置可达64GB,配备最新图灵架构的RTX显卡,相比市场其他品牌机器(单CPU、双Xeon处理器)更快、更具成本效益。 * 2.2 倾斜摄影建模(移动便携式工作站)硬件部署方案:设备特色在于最高的计算处理能力~6...

81,111

社区成员

发帖
与我相关
我的任务
社区描述
Java Web 开发
社区管理员
  • Web 开发社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧