社区
Web 开发
帖子详情
怎么样可以拒绝搜索网站收录呢
yifuzhiming
2009-05-20 07:48:19
因为是内部使用的系统,担心被外面的人访问,以前发生过这样的事情,在baidu上能搜出页面来,如何避免呢,谢谢了
...全文
115
10
打赏
收藏
怎么样可以拒绝搜索网站收录呢
因为是内部使用的系统,担心被外面的人访问,以前发生过这样的事情,在baidu上能搜出页面来,如何避免呢,谢谢了
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
10 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
shuai45
2009-05-20
打赏
举报
回复
[Quote=引用 9 楼 cfxinxin 的回复:]
引用 8 楼 shuai45 的回复:
最主要的是
规则是没有限制的。目前很多公司都自己写搜索引擎,写爬虫去爬。而这些公司根本不按照你说的规则走。
只要是能爬的都抓下来。所以,你说的robots.txt只能是一部分的限制,最根本无法保证信息的外漏。
只要是你BS,只要你有互连网,信息一定会外漏。
既然有标准,我们建站时候按标准走,假使出现某搜索引擎将内容收录,你可以根据这个东西作为证据追究他相关的法律责任。。…
[/Quote]
这个吗 就看公司的品德了。你可能会做到最好,到不是每个人都按规则玩的。
现在互连网 是异常的混乱,谁也保证不了 水有多深。
是不
cfxinxin
2009-05-20
打赏
举报
回复
[Quote=引用 8 楼 shuai45 的回复:]
最主要的是
规则是没有限制的。目前很多公司都自己写搜索引擎,写爬虫去爬。而这些公司根本不按照你说的规则走。
只要是能爬的都抓下来。所以,你说的robots.txt只能是一部分的限制,最根本无法保证信息的外漏。
只要是你BS,只要你有互连网,信息一定会外漏。
[/Quote]
既然有标准,我们建站时候按标准走,假使出现某搜索引擎将内容收录,你可以根据这个东西作为证据追究他相关的法律责任。。。这些也是要考虑到的。
不要想别人做没做到,先要保证自己做到最好。
shuai45
2009-05-20
打赏
举报
回复
最主要的是
规则是没有限制的。目前很多公司都自己写搜索引擎,写爬虫去爬。而这些公司根本不按照你说的规则走。
只要是能爬的都抓下来。所以,你说的robots.txt只能是一部分的限制,最根本无法保证信息的外漏。
只要是你BS,只要你有互连网,信息一定会外漏。
cfxinxin
2009-05-20
打赏
举报
回复
[Quote=引用 6 楼 shuai45 的回复:]
引用 5 楼 cfxinxin 的回复:
另外2楼的朋友, 搜索引擎既然能搜索到你。。。那么也就是已经突破了你所说的IP段设定。。。它也就必然会形成一个网站快照,那还有意义吗?
的确。如果真是从保密信息角度出发,确实起不到效果。
但是robots.txt文档存在未必就是安全的。如果搜索引擎不按照 规则走。
robots.txt文档的存在 照样会查出相关信息。
[/Quote]
这位仁兄的考虑,是非常现实的。。。就算是BAIDU提供了不被收录的方法,但是还是有几率的。
想要全面的控制。。断网吧,在局域网做。
shuai45
2009-05-20
打赏
举报
回复
[Quote=引用 5 楼 cfxinxin 的回复:]
另外2楼的朋友, 搜索引擎既然能搜索到你。。。那么也就是已经突破了你所说的IP段设定。。。它也就必然会形成一个网站快照,那还有意义吗?
[/Quote]
的确。如果真是从保密信息角度出发,确实起不到效果。
但是robots.txt文档存在未必就是安全的。如果搜索引擎不按照 规则走。
robots.txt文档的存在 照样会查出相关信息。
cfxinxin
2009-05-20
打赏
举报
回复
另外2楼的朋友, 搜索引擎既然能搜索到你。。。那么也就是已经突破了你所说的IP段设定。。。它也就必然会形成一个网站快照,那还有意义吗?
cfxinxin
2009-05-20
打赏
举报
回复
回复2楼:
robots.txt文档是 网络爬虫 的国际标准文档,不是百度自己想的。。。。
回复3楼:
静态页面越多,越容易被搜索引擎收录,如果和你说的一样,那么现在大家都热衷于的静态页面生成的技术问题探讨起来的意义就减半了吧。。。
w40338544
2009-05-20
打赏
举报
回复
貌似静态的东西越少 越不容易被收录..
shuai45
2009-05-20
打赏
举报
回复
baidu避免了,那google呢,其它搜索网站也避免不了。
既然内部 建议给出一个IP段限制。即使它被收录了,但不在规定的IP段上,就无法打开。
cfxinxin
2009-05-20
打赏
举报
回复
robots.txt放在网站根目录。
具体写法见网址:
http://www.baidu.com/search/robots.html
手机编程APP推荐[项目代码]
本文推荐了五款适用于手机编程的APP,包括C4droid(C/C++ IDE)、AIDE(Android开发环境)、htmlplay(HTML前端编辑器)、QPython(Python引擎)和Mimo(编程学习平台)。这些APP各具特色,如AIDE支持本土化操作和实时翻译,htmlplay提供便捷的HTML编辑功能,QPython让Python在安卓上更易用,Mimo则适合零基础用户学习多种编程语言。文章还提供了安装包的获取方式,方便读者下载使用。
Python八大应用领域[代码]
Python作为一种功能强大且通用的编程语言,其应用领域非常广泛。文章详细介绍了Python的八大主要应用领域,包括Web开发、网络爬虫、计算与数据分析、人工智能、自动化运维、云计算、网络编程和游戏开发。Python凭借其清晰的语法特点和丰富的库支持,在各个领域都表现出色。无论是初学者还是有经验的开发者,都能从中受益。此外,文章还提供了Python学习资料和资源,帮助读者更好地掌握这门语言。
Ollama迁移安装指南[项目代码]
本文详细介绍了如何将Ollama从默认的C盘安装或迁移到D盘的方法。主要包括四种方案:通过命令行参数指定自定义安装路径、修改系统环境变量OLLAMA_MODELS指向新位置、对已安装的情况进行文件复制和注册表修改、以及使用mklink创建目录链接保持兼容性。文章还提醒用户操作前备份数据,部分操作需要管理员权限,并建议参考官方文档获取最新信息。这些方法解决了Ollama安装路径修改资料较少的问题,为用户提供了灵活的存储空间管理方案。
PHP源码PHP学生成绩查询源码/文档
PHP源码PHP学生成绩查询(源代码+文档)
chromedriver-linux64-144.0.7540.0(Canary).zip
chromedriver-linux64-144.0.7540.0(Canary).zip
Web 开发
81,115
社区成员
341,737
社区内容
发帖
与我相关
我的任务
Web 开发
Java Web 开发
复制链接
扫一扫
分享
社区描述
Java Web 开发
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章