通过蜘蛛协议(robot.txt)禁止搜索引擎收录

1.什么是robots.txt文件? 
        搜索引擎通过一种程序robot&＃xff08;又称spider&＃xff09;&＃xff0c;自动访问互联网上的网页并获取网页信息。 
        可以网站中创建一个纯文本文件robots.txt&＃xff0c;在这个文件中声明该网站中不想被robot访问的部分&＃xff0c;这样&＃xff0c;该网站的部分或全部内容就可以不被搜索引擎收录了&＃xff0c;或者指定搜索引擎只收录指定的内容。

2.robots.txt文件放在哪里? 
        robots.txt文件应该放在网站根目录下。举例来说&＃xff0c;当robots访问一个网站&＃xff08;比如http://www.abc.com&＃xff09;时&＃xff0c;首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件&＃xff0c;如果机器人找到这个文件&＃xff0c;它就会根据这个文件的内容&＃xff0c;来确定它访问权限的范围。

3.robots.txt文件用法举例