轻松配置网站Robots.txt文件

在一个网站里，robots.txt是一个重要的文件，每个网站都应当有一个设置正确的robots.txt。 当搜索引擎来抓取你的网站文件之前，它们会先来看看你网站的robots.txt文件的设置，以了解你所允许它抓取的范围，包括哪些文件，哪些目录。那么如何配置您的robots.txt文件呢？ 让我们看一个例子： # robots.txt file start # Exclude Files...