用机器人模拟工具抓取我们公司网站的内容时失败,是什么原因呀?
用机器人模拟工具抓取我们公司网站的内容时失败,是什么原因呀?
我是用中国站长的在线工具测试的:http://tool.chinaz.com/Seo/Spider.asp
抓取的地址:http://www.clbase.com/index.asp,
但提示:抓取内容失败,请确认您输入的地址能正常访问。
当我抓取的地址:http://www.clbase.com/aa.html时就可以(这是我把首页的源码保存成的一个静态页面)就可以。
这是什么原因呀。
这是不是网站一直无被baidu和google搜索到的原因呢?因为现在搜索到的都是在其它网站的连接。