社区
C#
帖子详情
请问下高手们如何过滤一篇新闻网页上的新闻信息 答得好可以给200分
ljjable
2003-12-12 02:13:57
请问下高手们如何过滤一篇新闻网页上的新闻信息,而去掉那些与新闻无关的链接图片,关键问题是找到他们的共性,如163,新浪,中华网等,他们的HTML结构都不一样,能有一个什么技巧去抓住他们的共性从而去抓出他们的新闻内容,麻烦高手们指点指点小弟迷津,谢谢了
...全文
86
13
打赏
收藏
请问下高手们如何过滤一篇新闻网页上的新闻信息 答得好可以给200分
请问下高手们如何过滤一篇新闻网页上的新闻信息,而去掉那些与新闻无关的链接图片,关键问题是找到他们的共性,如163,新浪,中华网等,他们的HTML结构都不一样,能有一个什么技巧去抓住他们的共性从而去抓出他们的新闻内容,麻烦高手们指点指点小弟迷津,谢谢了
复制链接
扫一扫
分享
举报
写回复
配置赞助广告
用AI写文章
13 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
taomaintao
2004-01-14
打赏
举报
回复
接分来了
johnsunac
2003-12-29
打赏
举报
回复
具体问题具体分析——马克思说。
himuraz
2003-12-29
打赏
举报
回复
具体的网站都要不同的设计!
ljjable
2003-12-29
打赏
举报
回复
up
zs1024cn
2003-12-29
打赏
举报
回复
告诉新浪给你做一个WebService.
tigase
2003-12-12
打赏
举报
回复
参考
string url="http://www.sina.com.cn/news/200312120001.htm"
WebRequest req=WebRequest.Create(url); //构造一个WEB请求
HttpWebResponse hreq=(HttpWebResponse)req.GetResponse(); //构造一个WEB响应
string html="";
Stream s=hreq.GetResponseStream(); //获取WEB响应的数据Stream
StreamReader reader=new StreamReader(s,System.Text.Encoding.GetEncoding("GB2312")); //对数据流作编码转换
//string sline="";
html=reader.ReadToEnd();
txtResult.Text=html;
以上代码获得HTML文本后在分析其格式,当然最好用正则表达式来分析!
如果要做多个网站的通用分析,你可以为不同的网站做不同的规则,这样就可以了!
karl
2003-12-12
打赏
举报
回复
都是新浪,新浪都可以成为新闻供应商了~~~这倒是个不错的买卖~~~你给钱,我给你接口,我的点子怎么样?
xhzuo
2003-12-12
打赏
举报
回复
没有通用的吧,不同的网站他们新闻的格式都不一样。自己挨个分析吧。
ljjable
2003-12-12
打赏
举报
回复
我也想过每个网站独立做一个类似“病毒库”的特征,但如果这样的话,编码特别多,要涉及好多个网站,太麻烦了
myhex
2003-12-12
打赏
举报
回复
我记得新浪的新闻页面上插广告那一段前后都有它服务器程序加的一段html注释。不知道其它的大站上有没有!楼上的说的特征包是有道理的。我在PHP上实现过偷新闻。而且是纯文本的程序,不过仅限新浪。
Programmersheaven
2003-12-12
打赏
举报
回复
唯一的共性就是HTML,若要找共性很难到,新闻抓取器多多少少都有针对性的,否则只能找出一堆垃圾。每个网站独立做一个类似“病毒库”的特征包就行
Soking
2003-12-12
打赏
举报
回复
暂时还没有解决方案
靠肉眼吧·!
lemong
2003-12-12
打赏
举报
回复
正则表达式
基于百川大语言模型的RSS
新闻
过滤
应用【云服务器+公网
网页
,随时随地看自己DIY订阅的
新闻
内容】
目前从公众号、
新闻
媒体上获得的
新闻
信息
,都是经过算法
过滤
推荐的,很多时候会感到内容的重复性和低质量,因为他们也要考虑到自己的利益,并非完全考虑用户想要的、对用户有价值的
信息
。这时,如果要获取自己认为重要的
信息
,定制化开发自己的筛选算法更好。
Python爬虫与BeautifulSoup:
网页
信息
提取实战
本文介绍了如何使用Python的requests和BeautifulSoup库进行
网页
数据抓取。主要内容包括:安装基础库、基本抓取流程、实战案例(
新闻
标题与链接提取)、进阶技巧(CSS选择器、表格提取等)、
分
页处理方法以及反爬虫应对策略(User-Agent设置、代理池等)。文章通过完整示例演示了
网页
解析与数据提取的关键技术,为开发者提供了实用的爬虫开发指南。
2025新范式:用Dify.AI打造个性化
新闻
聚合助手,告别
信息
过载
你是否每天花2小时在20个APP间切换获取
新闻
?是否常常错过行业关键动态?本文将带你用Dify.AI构建专属
新闻
聚合助手,实现"一次设置,精准推送"的高效
信息
获取体验。 读完本文你将掌握: - 3步搭建基于AI的
新闻
聚合系统 - 无需编程的智能内容筛选配置 - 本地化部署保障数据隐私安全 - 多终端同步的个性化阅读方案 ## 为什么选择Dify.AI构建
新闻
助手 传统
新闻
APP存在三大痛点:...
一文汇总全球热门
新闻
API
新闻
API在API领域的重要性不仅体现在技术层面,还体现在其对社会、经济和文化等多个方面的深远影响。随着技术的不断进步,
新闻
API将继续在
信息
传播和内容消费中扮演关键角色。
百度
新闻
网页
版,本地自定义屏蔽关键词
因为是对着电脑工作的,所以经常都在百度
网页
上看
新闻
,但最近老是出现国足这种我毫无兴趣的东西,反复了多次不感兴趣,仍然要反复给我类似
新闻
,还有这两天的什么马桶MT,真是烦! chrome、firefox 按F12 输入以下代码,以后点不感兴趣,就会弹出设置框,包含设置词语的就会被屏蔽 function set(k, v){ localStorage.setItem(k, v); } func...
C#
111,128
社区成员
642,535
社区内容
发帖
与我相关
我的任务
C#
.NET技术 C#
复制链接
扫一扫
分享
社区描述
.NET技术 C#
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
让您成为最强悍的C#开发者
试试用AI创作助手写篇文章吧
+ 用AI写文章