怎么样可以拒绝搜索网站收录呢

yifuzhiming 2009-05-20 07:48:19
因为是内部使用的系统,担心被外面的人访问,以前发生过这样的事情,在baidu上能搜出页面来,如何避免呢,谢谢了
...全文
115 10 打赏 收藏 转发到动态 举报
写回复
用AI写文章
10 条回复
切换为时间正序
请发表友善的回复…
发表回复
shuai45 2009-05-20
  • 打赏
  • 举报
回复
[Quote=引用 9 楼 cfxinxin 的回复:]
引用 8 楼 shuai45 的回复:
最主要的是
规则是没有限制的。目前很多公司都自己写搜索引擎,写爬虫去爬。而这些公司根本不按照你说的规则走。
只要是能爬的都抓下来。所以,你说的robots.txt只能是一部分的限制,最根本无法保证信息的外漏。

只要是你BS,只要你有互连网,信息一定会外漏。


既然有标准,我们建站时候按标准走,假使出现某搜索引擎将内容收录,你可以根据这个东西作为证据追究他相关的法律责任。。…
[/Quote]

这个吗 就看公司的品德了。你可能会做到最好,到不是每个人都按规则玩的。
现在互连网 是异常的混乱,谁也保证不了 水有多深。
是不
cfxinxin 2009-05-20
  • 打赏
  • 举报
回复
[Quote=引用 8 楼 shuai45 的回复:]
最主要的是
规则是没有限制的。目前很多公司都自己写搜索引擎,写爬虫去爬。而这些公司根本不按照你说的规则走。
只要是能爬的都抓下来。所以,你说的robots.txt只能是一部分的限制,最根本无法保证信息的外漏。

只要是你BS,只要你有互连网,信息一定会外漏。
[/Quote]

既然有标准,我们建站时候按标准走,假使出现某搜索引擎将内容收录,你可以根据这个东西作为证据追究他相关的法律责任。。。这些也是要考虑到的。

不要想别人做没做到,先要保证自己做到最好。
shuai45 2009-05-20
  • 打赏
  • 举报
回复
最主要的是
规则是没有限制的。目前很多公司都自己写搜索引擎,写爬虫去爬。而这些公司根本不按照你说的规则走。
只要是能爬的都抓下来。所以,你说的robots.txt只能是一部分的限制,最根本无法保证信息的外漏。

只要是你BS,只要你有互连网,信息一定会外漏。
cfxinxin 2009-05-20
  • 打赏
  • 举报
回复
[Quote=引用 6 楼 shuai45 的回复:]
引用 5 楼 cfxinxin 的回复:
另外2楼的朋友, 搜索引擎既然能搜索到你。。。那么也就是已经突破了你所说的IP段设定。。。它也就必然会形成一个网站快照,那还有意义吗?

的确。如果真是从保密信息角度出发,确实起不到效果。
但是robots.txt文档存在未必就是安全的。如果搜索引擎不按照 规则走。
robots.txt文档的存在 照样会查出相关信息。
[/Quote]

这位仁兄的考虑,是非常现实的。。。就算是BAIDU提供了不被收录的方法,但是还是有几率的。

想要全面的控制。。断网吧,在局域网做。
shuai45 2009-05-20
  • 打赏
  • 举报
回复
[Quote=引用 5 楼 cfxinxin 的回复:]
另外2楼的朋友, 搜索引擎既然能搜索到你。。。那么也就是已经突破了你所说的IP段设定。。。它也就必然会形成一个网站快照,那还有意义吗?
[/Quote]
的确。如果真是从保密信息角度出发,确实起不到效果。
但是robots.txt文档存在未必就是安全的。如果搜索引擎不按照 规则走。
robots.txt文档的存在 照样会查出相关信息。
cfxinxin 2009-05-20
  • 打赏
  • 举报
回复
另外2楼的朋友, 搜索引擎既然能搜索到你。。。那么也就是已经突破了你所说的IP段设定。。。它也就必然会形成一个网站快照,那还有意义吗?
cfxinxin 2009-05-20
  • 打赏
  • 举报
回复
回复2楼:

robots.txt文档是 网络爬虫 的国际标准文档,不是百度自己想的。。。。

回复3楼:

静态页面越多,越容易被搜索引擎收录,如果和你说的一样,那么现在大家都热衷于的静态页面生成的技术问题探讨起来的意义就减半了吧。。。
w40338544 2009-05-20
  • 打赏
  • 举报
回复
貌似静态的东西越少 越不容易被收录..
shuai45 2009-05-20
  • 打赏
  • 举报
回复
baidu避免了,那google呢,其它搜索网站也避免不了。
既然内部 建议给出一个IP段限制。即使它被收录了,但不在规定的IP段上,就无法打开。
cfxinxin 2009-05-20
  • 打赏
  • 举报
回复
robots.txt放在网站根目录。

具体写法见网址:

http://www.baidu.com/search/robots.html

81,115

社区成员

发帖
与我相关
我的任务
社区描述
Java Web 开发
社区管理员
  • Web 开发社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧