大佬,问下这个网站怎么爬,为啥我怎么爬都爬不了啊

噢麦搞的 2024-12-06 11:00:12

请求 URL:
http://www.gfex.com.cn/u/interfacesWebTiDayQuotes/loadList
请求方法:
POST
状态代码:
200 OK
远程地址:
[2409:8c4c:e00:2011:33::52]:80
引用站点策略:
strict-origin-when-cross-origin
Age:
0
Cache-Control:
no-cache
Connection:
keep-alive
Content-Type:
application/json;charset=UTF-8
Date:
Fri, 06 Dec 2024 02:43:06 GMT
Eo-Cache-Status:
MISS
Eo-Log-Uuid:
11303713761434026797
Expires:
Thu, 01 Jan 1970 00:00:00 GMT
Pragma:
no-cache
Server:
nginx
Set-Cookie:
Path=/; Secure; HttpOnly
Set-Cookie:
Path=/; Secure; HttpOnly

Transfer-Encoding:
chunked
Via:
http/1.1 GFEX (GFEX [cMsSf ])
X-Content-Type-Options:
nosniff
X-Content-Type-Options:
nosniff
X-Frame-Options:
SAMEORIGIN
X-Frame-Options:
DENY
X-Xss-Protection:
1; mode=block
X-Xss-Protection:
1; mode=block
Accept:
application/json, text/javascript, */*; q=0.01
Accept-Encoding:
gzip, deflate
Accept-Language:
zh-CN,zh;q=0.9,en;q=0.8,en-GB;q=0.7,en-US;q=0.6
Connection:
keep-alive
Content-Length:
32
Content-Type:
application/x-www-form-urlencoded; charset=UTF-8
Cookie:
JSESSIONID=07714FD8659205AA8A3EC52D66682501; SF_cookie_3=68941398; _yfxkpy_ssid_10009067=%7B%22_yfxkpy_firsttime%22%3A%221733451183919%22%2C%22_yfxkpy_lasttime%22%3A%221733451183919%22%2C%22_yfxkpy_visittime%22%3A%221733452985237%22%2C%22_yfxkpy_cookie%22%3A%2220241206101303923178523200069355%22%7D
Host:
www.gfex.com.cn
Origin:
http://www.gfex.com.cn
Referer:
http://www.gfex.com.cn/gfex/rihq/hqsj_tjsj.shtml
User-Agent:
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0
X-Requested-With:
XMLHttpRequest

{code: "0", msg: "接口访问成功!", param: {trade_date: ["20241206"], trade_type: ["0"]}, data: [,…],…}

但我直接访问 http://www.gfex.com.cn/u/interfacesWebTiDayQuotes/loadList 页面错误。

请问我如何 采集到这个页面数据?

我只要简单采集这个页面,不是手工啊,否则我也不会问

 

 

...全文
398 8 打赏 收藏 转发到动态 举报
写回复
用AI写文章
8 条回复
切换为时间正序
请发表友善的回复…
发表回复
噢麦搞的 2024-12-10
  • 打赏
  • 举报
回复

这个网站怎么没人发帖的啊

噢麦搞的 2024-12-07
  • 打赏
  • 举报
回复

$session = New-Object Microsoft.PowerShell.Commands.WebRequestSession
$session.UserAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0"
$session.Cookies.Add((New-Object System.Net.Cookie("fqYLVbsaziaNS", "60rM6nHZBqvaccCq1lcZ6x97D2uJ5hsSHeaqYi78qtHxKUd.oVbKISa4YOGNg2MvYAbv1eM2GueFUpQFfzolr1Rq", "/", "http://www.czce.com.cn")))
$session.Cookies.Add((New-Object System.Net.Cookie("UM_distinctid", "1939ef210d1486-0dd0062d2b14fb-4c657b58-1fa400-1939ef210d2700", "/", ".czce.com.cn")))
$session.Cookies.Add((New-Object System.Net.Cookie("CNZZDATA1264458526", "113467313-1733538484-%7C1733542148", "/", "http://www.czce.com.cn")))
$session.Cookies.Add((New-Object System.Net.Cookie("fqYLVbsaziaNT", "0KtTkio2kasCC6MZztC3knFF07WZZhuXC52irzZgIBrxvHCLO1ADkCsRBSY5vAZF.yfwj6i3GAmVGuLbxNvnY37_NWCEYSkZ0JYkgBxj_n57X8MMoDnIsXZv_04IVboxiWNTU21u8ymNCf5xP1Mx9fOrchU9QMCdSVwUu1jGk5DyX0qzO9LOAearqLT.7WyY4pJrmh39wiOex3.Znzvjrd7TyQDdsiC_8aBoIpqxKg1CTyDSl1ceZDzugCGYazYR3B7mM8ktXatBt_raKk73Cn9AJPNBoPkNJ5XOhK5a8dQiE86dJ37tFoiZBSIoZQiUuK9AAvTCKxCa0wHiBxbwitZUTu64zRNwrco5nG58pNALk4AFHBuHCvDUqgWr8Wu6nD36Vx8K2XPgJjyIJeN30xG", "/", "http://www.czce.com.cn")))
$response =Invoke-WebRequest -UseBasicParsing -Uri "http://www.czce.com.cn/cn/DFSStaticFiles/Future/2024/20241206/FutureDataDaily.htm%22 -WebSession $session
-Headers @{
"Accept"="text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,/;q=0.8,application/signed-exchange;v=b3;q=0.7"
"Accept-Encoding"="gzip, deflate"
"Accept-Language"="zh-CN,zh;q=0.9,en;q=0.8,en-GB;q=0.7,en-US;q=0.6"
"Cache-Control"="max-age=0"
"Upgrade-Insecure-Requests"="1"
}

将响应内容保存到本地文件

$outputFile = "e:\czce_outputfile.txt" # 替换为你想保存的文件路径
Out-File -FilePath $outputFile -InputObject $response.Content
郑商所 这个网页爬不了, 帮我看看是什么问题,呵呵

噢麦搞的 2024-12-07
  • 举报
回复
@噢麦搞的 呵呵呵呵,大佬什么时候降临人间啊
噢麦搞的 2024-12-06
  • 打赏
  • 举报
回复

呵呵

噢麦搞的 2024-12-06
  • 打赏
  • 举报
回复

我是C++语言,清问简单抓取这样一个页面,需要用到什么库吗? 用curl下载行不行?

噢麦搞的 2024-12-06
  • 打赏
  • 举报
回复

麻烦各位大佬,我很急。

噢麦搞的 2024-12-06
  • 打赏
  • 举报
回复

img


就是这样一个返回页面

噢麦搞的 2024-12-06
  • 打赏
  • 举报
回复

, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0
X-Requested-With:
XMLHttpRequest

{code: "0", msg: "接口访问成功!", param: {trade_date: ["20241206"], trade_type: ["0"]}, data: [,…],…}
调试器显示数据成功返回,核对数据也是对的嘛。
但我直接访问 http://www.gfex.com.cn/u/interfacesWebTiDayQuotes/loadList 页面错误。难道不能直接访问嘛? 简单说下,需要做些什么

下载代码方式:https://pan.quark.cn/s/28492da20c79 依据所提供的文件资料,本资源将系统地探讨FPGA(即现场可编程门阵列)的核心概念、其在视频图像技术领域的入门及进阶知识要点,以及图像处理算法的实现方法。此外,还将对VIPBoardBig这一特定FPGA开发板的详细资料和使用途径进行深入剖析。 FPGA的入门与进阶学习主要涉及以下核心内容: 1. FPGA的基础概念:FPGA是一种能够通过编程进行配置的集成电路,主要目的是达成硬件逻辑的可重构特性。该类芯片由大量的可配置逻辑模块(CLB)、输入输出模块(IOB)以及可编程互连资源共同构成。 2. FPGA开发板与相关套件:FPGA开发板是一种用于FPGA芯片学习和测试的硬件平台,通常配备有基础的外设设备,例如LED指示灯、按键开关、LCD显示屏、串口通信接口等。套件则通常包含硬件板卡、技术文档、相关资源,以及可能的软件工具和示例代码集。VIPBoardBig即为本教程选用的FPGA开发板,拥有特定的硬件配置和功能特性。 3. FPGA的开发流程:FPGA开发一般涉及硬件描述语言(HDL)的设计与仿真阶段,常用语言为Verilog或VHDL。随后,借助综合工具将设计蓝图转化为FPGA内部的逻辑网络,最终通过编程设备将配置文件传输至FPGA芯片中,从而实现设计的预期功能。 4. 外设开发与设计工作:涵盖LED显示控制、键盘驱动、LCD显示驱动、UART串口设计等基础外设的开发任务。这部分知识将引导学习者掌握如何在FPGA平台上管理和运用这些基础外设。 5. VGA驱动显示与字符显示测试:VGA(Video Graphics Array)是一种视频传输接口标准,能够支持640x480...
内容概要:本文系统阐述了企业在搭建官方知识库后如何通过“7步锚定法”实现GEO(生成式引擎优化)的落地,重点在于从知识库走向内容矩阵的战略升级。文章指出知识库仅为起点,真正的核心是让大模型“信任并推荐”企业内容。为此提出“一个主战场+多个品牌布局”的策略,强调需根据行业特性选择高商业流量的大模型(如豆包、文心一言、通义千问等),而非工具性模型(如ChatGPT、Claude)。通过业务场景画像、大模型流量测绘、采信逻辑拆解、内容架构设计、语义关键词埋点、信源建设与效果迭代七步法,构建高质量、高可信度的内容体系,并警惕“全模型覆盖、内容堆砌、一套内容通用、忽视第三方平台”四大误区。最终指出GEO本质是一场认知战,比拼的是对大模型逻辑与客户需求的理解深度及长期主义投入。; 适合人群:已完成官方知识库搭建、希望提升AI引用率与获客效率的企业市场负责人、品牌运营、数字营销从业者及SEO/GEO优化相关人员。; 使用场景及目标:①指导企业科学选择主攻大模型并制定差异化内容策略;②构建符合大模型采信逻辑的高质量内容矩阵;③避免常见GEO落地误区,提升AI搜索下的品牌曝光与转化效果;④建立可持续优化的数据反馈闭环。; 阅读建议:建议结合自身行业特征与客户决策路径,逐步实践“7步法”,优先聚焦单一主战场打透,注重内容质量与第三方权威信源建设,坚持3-6个月持续投入以观察真实效果。

26,344

社区成员

发帖
与我相关
我的任务
社区描述
爬虫逆向技术交流社区,有问题可在此发布动态,不限开发语言不限框架技术的综合社区。
社区管理员
  • 考古学家lx(李玺)
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

一个综合的爬虫逆向技术交流社区

试试用AI创作助手写篇文章吧