1) User-Agent键

后面的内容对应的是各个具体的搜索引擎爬行器的名称。如百度是Baiduspider，谷歌是Googlebot。

一般我们这样写：

User-Agent: *

表示允许所有搜索引擎蜘蛛来爬行抓取。如果只想让某一个搜索引擎蜘蛛来爬行，在后面列出名字即可。如果是多个，则重复写。

注意：User-Agent:后面要有一个空格。

在robots.txt中，键后面加：号，后面必有一个空格，和值相区分开。

2)Disallow键

该键用来说明不允许搜索引擎蜘蛛抓取的URL路径。

例如：Disallow: /index.php 禁止网站index.php文件

Allow键

该键说明允许搜索引擎蜘蛛爬行的URL路径

例如：Allow: /index.php 允许网站的index.php

通配符*

代表任意多个字符

例如：Disallow: /*.jpg 网站所有的jpg文件被禁止了。

结束符$

表示以前面字符结束的url。

例如：Disallow: /?$ 网站所有以?结尾的文件被禁止。

应该注意的是：

1，在"/robots.txt"文件中，至少要有一条Disallow记录,允许收录优先级要高于禁止收录,如
User-agent: *
Allow: /a/b.htm
Disallow: /a/
则a目录下b.htm可以访问，其他禁止

2，注意路径后面加斜杠和不加斜杠的区别
如果目录后边带斜杠，那么访问不带斜杠的地址时还是可以访问目录首页，如果想屏蔽掉整个目录，建议不带斜杠

 
3，robots文件只有放在根目录才有效，放在子目录没效。

4，robots.txt文件用法举例