问题：robots.txt文件要多久生效？
答案：
同的站点略复有不同，但通常在几天内陆续生效：
1.蜘蛛发现robots文件修改并将信息传回 ；
2.分析修改前后的robots文件；
3.删除不允许被收录制的索引数据 这个过程中肯能还会存在其他的一些步骤，然而由于每个网站蜘蛛爬的频率和网站的权重不同，从而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同，最终导致的结果就是度robots的生效时间不同；
问题：robots.txt文件要多久生效？
答案：
同的站点略复有不同，但通常在几天内陆续生效：
1.蜘蛛发现robots文件修改并将信息传回 ；
2.分析修改前后的robots文件；
3.删除不允许被收录制的索引数据 这个过程中肯能还会存在其他的一些步骤，然而由于每个网站蜘蛛爬的频率和网站的权重不同，从而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同，最终导致的结果就是度robots的生效时间不同；
