网页优化问题,发言有份

xuxiaomei2707 2012-02-10 09:43:14
我在页面做了两个测试,
一个是用gridview展示数据,有默认分页,但爬虫或蜘蛛只能爬到第一页的数据
二是查询所有数据,只在页面显示10条,只能爬到10条的数据

我用的是http://www.webconfs.com/search-engine-spider-simulator.php 来爬的

如何才能爬到所有查询的数据呢?我想把每一页的数据全都爬到,如何优化啊???
...全文
158 24 打赏 收藏 转发到动态 举报
写回复
用AI写文章
24 条回复
切换为时间正序
请发表友善的回复…
发表回复
xuxiaomei2707 2012-02-14
  • 打赏
  • 举报
回复
[Quote=引用 8 楼 xyq0125 的回复:]
A标签的分页应该就是对url的分页吧。
[/Quote]

不好意思啊,把你漏掉了,下次多给你分哈!
qq623932737 2012-02-11
  • 打赏
  • 举报
回复
[Quote=引用 15 楼 ptyzhu 的回复:]
GridView分页那里你注意下是JavaScript 。。而不是实实在在的 链接,爬虫当然不会抓取下去,你要是想放在前台展示让搜索引擎收录到的话 分页就要自己写,把分页样式那换成 <a href=""></a>
[/Quote]+1
mcycsnd007 2012-02-11
  • 打赏
  • 举报
回复
实现静态分页 对你的列表页的每行标题和图片做优化 <a>也要做
xyq0125 2012-02-10
  • 打赏
  • 举报
回复
A标签的分页应该就是对url的分页吧。
xuxiaomei2707 2012-02-10
  • 打赏
  • 举报
回复
[Quote=引用 6 楼 chenlin19891008 的回复:]

一般想做SEO的优化,都是要做A标签的分页,一般才可以让爬虫全部抓到~
[/Quote]
如何用<a>分页呢?可不可以具体点?
chenlin19891008 2012-02-10
  • 打赏
  • 举报
回复
一般想做SEO的优化,都是要做A标签的分页,一般才可以让爬虫全部抓到~
村长_乐 2012-02-10
  • 打赏
  • 举报
回复
url分页
xuxiaomei2707 2012-02-10
  • 打赏
  • 举报
回复
怎么没人啊,自己顶一下
概念人 2012-02-10
  • 打赏
  • 举报
回复
没错,就是URL分页,把每一页的详细地址呈现给蜘蛛。
xt218218 2012-02-10
  • 打赏
  • 举报
回复
url 分页
相当之稳重 2012-02-10
  • 打赏
  • 举报
回复
另外GridView的内置分页确实样子比较单一。。在后台用用就算了,页面上的分页自己写下吧
相当之稳重 2012-02-10
  • 打赏
  • 举报
回复
GridView分页那里你注意下是JavaScript 。。而不是实实在在的 链接,爬虫当然不会抓取下去,你要是想放在前台展示让搜索引擎收录到的话 分页就要自己写,把分页样式那换成 <a href=""></a>
liuxibei1987 2012-02-10
  • 打赏
  • 举报
回复
url分页
发言有分啊
村长_乐 2012-02-10
  • 打赏
  • 举报
回复
[Quote=引用 11 楼 xuxiaomei2707 的回复:]

引用 4 楼 qdwangle 的回复:

http://www.webdiyer.com/Controls/AspNetPager/PagingMode

http://www.webdiyer.com/AspNetPagerDemo/urlpaging/default.aspx


给的例子很详细了,但是我用
http://www.webconfs.com/search-en……
[/Quote]


怎么可能你之前只收录了十个,因为url地址没有变化,所以只收录一页,url分页后url会变化就会收录到



PostBack分页 Url分页
搜索引擎友好 搜索引擎只能检索第一页。 搜索引擎可以检索所有页。
JoesenZhao 2012-02-10
  • 打赏
  • 举报
回复
只为发言有份而来。。
xuxiaomei2707 2012-02-10
  • 打赏
  • 举报
回复
[Quote=引用 4 楼 qdwangle 的回复:]

http://www.webdiyer.com/Controls/AspNetPager/PagingMode

http://www.webdiyer.com/AspNetPagerDemo/urlpaging/default.aspx
[/Quote]

给的例子很详细了,但是我用
http://www.webconfs.com/search-engine-spider-simulator.php
爬了一下,他也是只能爬到某一个,而不是所有的数据啊
glasses1999 2012-02-10
  • 打赏
  • 举报
回复
发言有份 ..............

62,073

社区成员

发帖
与我相关
我的任务
社区描述
.NET技术交流专区
javascript云原生 企业社区
社区管理员
  • ASP.NET
  • .Net开发者社区
  • R小R
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

.NET 社区是一个围绕开源 .NET 的开放、热情、创新、包容的技术社区。社区致力于为广大 .NET 爱好者提供一个良好的知识共享、协同互助的 .NET 技术交流环境。我们尊重不同意见,支持健康理性的辩论和互动,反对歧视和攻击。

希望和大家一起共同营造一个活跃、友好的社区氛围。

试试用AI创作助手写篇文章吧