robots协议对网站优化有什么影响?robots协议是引导蜘蛛对网站抓取的第一步协议，也是最关键的协议，robots协议就相当于网站的大门，如果你把大门关上了那么客人就无法进入你的商店，你的商品再怎么物美价廉都无法被人们见到。

robots文件有什么作用?

　　1.保护我们网站的隐私内容不被爬虫抓取，表面透露隐私内容。例如:用户数据、管理员信息等。

　　2.我们可以利用好robots文件来做好网站的SEO优化工作，比如清理网站死链的时候可以把死链接写进robots文件，再或者可以将网站地图写进robots方便爬虫一次性抓取网站内容等等。

　robots.txt文件使用误区。

　　1、在robots.txt文件中设置不抓取整个网站内容，不让抓取意味着整个网站都不会被搜索引擎收录，不被收录的话，关键词难以获得排名，在好的营销内容，也难以被用户看到。

　　2、在robots.txt文件中设置所有的文件都允许搜索引擎蜘蛛抓取，让搜索引擎能够收录更多页面。其实搜索引擎蜘蛛对于网站程序脚本、css样式、js文件等，很难被搜索引擎收录，就算收录了，也只会浪费服务器资源，这种对网站保护性很差，对蜘蛛体验不友好。

　　3、网站所有文件都可以被抓取，不去设置robots.txt文件，默认让搜索引擎抓取整个的网站文件，这样不更利于优化。现实不是这样的，蜘蛛每次来抓取网站先会抓取robots.txt文件，如果文件不存在，蜘蛛就会认为是死链，就在网站日志记录为死链，严重影响蜘蛛友好度。

　　总之robots协议是网站优化中重要的优化细节，它能够更好的引导蜘蛛对网站的抓取，避免蜘蛛对网站抓取出现问题，数据泄露等，因此在网站上线前，需检查网站是否有添加网站robots.txt文件。