搜索引擎robots.txt简介及robots规则
robots.txt是一个协议,而不是一个命令是搜索引擎中访问网站的时候要查看的第一个文件。robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎蜘蛛(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。
robots.txt协议并非一个规范,只是约定俗成的,通常情况下,搜索引擎会识别这个文件,但也有例外。
对于Google,robots.txt也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。
<meta name="googlebot" content="noindex">
当Google机器人访问网站时看到某一页上有noindex的元标签,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。
百度的情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。
<meta name="Baiduspider" content="noarchive">
这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。
例如,淘宝网目前就通过robots.txt来屏蔽百度蜘蛛,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,第一个结果也是淘宝网首页地址,只是这个页面不存在网页快照,因此也可以看出,网站只能禁止百度的快照,而无法禁止百度为网页建索引。
- 360何来与百度叫板的本钱(2012-8-29 16:35:19)
- 面对百度新规则SEOer何去何从(2012-8-28 14:1:4)
- 读懂百度最新规则 让网站有个好排名(2012-8-27 14:44:31)
- 网站被K的不同情况的恢复方法(2012-8-26 8:43:11)
- 避免网站优化过度需注意四点(2012-8-24 14:44:43)
- 做SEO别忽视了360搜索(2012-8-21 16:38:46)
- 对中小企业网络推广的思考(2012-8-12 18:31:36)
- 网站分析之净之泉净水器官网(2012-8-10 17:7:26)
- SEO过程中千万别忽视了竞争对手(2012-8-10 11:20:10)
- 简析整合营销理论及其发展(2012-8-9 9:29:15)
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。