社区
Web 开发
帖子详情
。。关于抓取网页信息的问题,
Mrdanding
2013-01-25 11:29:28
如何用java实现登陆一个网站,比方说一个论坛,要求输入用户名和密码,还有个复选框,选择是普通用户还是会员或者管理员,
如何把这三个信息通过表单post给网页,然后实现登陆,
登陆之后是不是httpclient自动管理cookies,
我就可以访问该用户登陆状态下的各个子页面,并把信息抓取下来,
请教如何将用户名密码和复选框或者是下拉框的内容post给网页,
求指导~,
...全文
88
5
打赏
收藏
。。关于抓取网页信息的问题,
如何用java实现登陆一个网站,比方说一个论坛,要求输入用户名和密码,还有个复选框,选择是普通用户还是会员或者管理员, 如何把这三个信息通过表单post给网页,然后实现登陆, 登陆之后是不是httpclient自动管理cookies, 我就可以访问该用户登陆状态下的各个子页面,并把信息抓取下来, 请教如何将用户名密码和复选框或者是下拉框的内容post给网页, 求指导~,
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
5 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
linwz520
2013-01-30
打赏
举报
回复
先用httpclient做post登陆,然后方法返回下一个页面的数据,就是你登陆后的页面html代码,用正则去匹配你要的数据就可以了
小律律
2013-01-30
打赏
举报
回复
不是保存在Session里就可以了吗
失落夏天
2013-01-26
打赏
举报
回复
那是post给服务端吧? 一个form表单,然后submit提交? 感觉好像不止这么简单,但是复杂了想不出你问的啥。
paullbm
2013-01-26
打赏
举报
回复
想实现这功能的前提是,首先你要人工走访一遍操作流程:用数据抓包工具httpwatch或用火狐自带的firebug进行关键的请求(比如登录操作)url获取。在了解了人家的接口和参数之后,你才方便自己去模拟,以达到欺骗服务器的作用。因为HTTP协议是无状态的,发送了一个请求,必然会有一个响应。当然,至于服务器端的响应也看它是否有所防范。如果你想了解这个过程,当前最火的应该是刷票软件的脚本了。可以去研究研究。
Mrdanding
2013-01-26
打赏
举报
回复
。。就是如何实现程序自动登陆一个网页,然后把登陆后的各个子页面的数据抓取下来,
网络爬虫 之 PhantomJS技术实战
本课程使用java作为编程语言,主要内容包括爬虫的基本原理,使用Phantomjs技术
抓取
拉钩企业招聘
信息
进行系统分析、Phantomjs的详细使用方法,如何使用Phantomjs分析html代码,基于队列的爬虫、数据存储、数据拆分、爬虫限速、
网页
跟踪,脚本注入等技术。任务作业:请
抓取
拉钩企业招聘数据进行企业岗位数据分析实战《各大城市招聘状况分析》。(注意: 作业需写在CSDN博客中,请把作业链接贴在评论区,老师会定期逐个批改~~)
java
抓取
网页
_Java
抓取
网页
数据
有时候由于种种原因,我们需要采集某个网站的数据,但由于不同网站对数据的显示方式略有不同!本文就用Java给大家演示如何
抓取
网站的数据:(1)
抓取
原
网页
数据;(2)
抓取
网页
JavaScript返回的数据。一、
抓取
原
网页
。这个例子我们准备从http://ip.chinaz.com上
抓取
ip查询的结果:第一步:打开这个
网页
,然后输入IP:111.142.55.73,点击查询按钮,就可以看到
网页
显示的结果...
使用 Python 进行
网页
抓取
面对铺天盖地的大数据,怎样才能快速发现其中的趋势、找到数据走势,从而改变工作模式,这是摆在数据工作者面前的难题。如果您知道如何做到这一点,那么对于企业和个人使用来说,网络
抓取
似乎是一种非常有用的节省时间的工具。我们将重点介绍为什么您应该使用 Python 进行
网页
抓取
,并为您提供有关如何完成它的快速教程,包括使用哪些Python 开发工具。因此,下一步是部署
抓取
程序,将
信息
复制到您请求的数据库中。要获得您希望
抓取
为Python友好格式的
信息
,您需要使用执行HTTP请求的Python包。
Linux
抓取
网页
实例(shell+awk)
上一篇博客讲了Linux
抓取
网页
的方式,有curl和wget两种方式,这篇将重点讲Linux
抓取
网页
的实例——
抓取
google play全球12国的游戏TOP排名要
抓取
google play游戏排名
网页
,首先需要分析
网页
的特点和规律:1、google play游戏排名
网页
,是一个就“总-分”形式,即一页网址显示若干排名(如24个),有若干个这样的
网页
组成全部游戏的总排名2、每页网址中,点击每个单独
如何
抓取
网页
数据
如何
抓取
网页
数据,每当我们在网上找到自己想到的数据,都需要复制粘贴或下载然后一步一步地整理。今天教大家如何快速地免费获取
网页
数据
信息
,只需要输入域名点选你需要的数据,软件全自动
抓取
。支持导出各种格式并且已整理归类。详细参考图片教程。 SEO是一种具有一定运转周期的网络营销形式。如何
抓取
网页
数据,与其他网络营销方式不同的是,由于网站SEO优化是一项依托积聚和耐久性的工作,它可能不会在短时间内产生营销效果。普通来说,如何
抓取
网页
数据,SEO的结果在一年左右会比拟稳定。那么网站SEO优化效果慢的缘由是什
Web 开发
81,094
社区成员
341,710
社区内容
发帖
与我相关
我的任务
Web 开发
Java Web 开发
复制链接
扫一扫
分享
社区描述
Java Web 开发
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章