网站开发者在搭建好一个网站后就会自动生成一个网站日志：是用来记录网站访问记录的，那么蜘蛛日志又是什么呢？其实就是指：搜索引擎蜘蛛爬行网站的记录，进行网站抓取。对于想优化网站的开发者来说，分析好蜘蛛日志是非常有必要的

蜘蛛日志分析

1、网站目录蜘蛛抓取的统计

通过网站日志的分析，可以很好的看出我们的哪些目录比较受蜘蛛的喜爱，蜘蛛经常抓取收录，并且给予的排名权重状况。并且我们可以通过这些数据能够发现很多问题，对于我们想要突出的栏目可以通过内部结构来进行指向，从而有效的增加栏目的权重和蜘蛛抓取的程度。对于那些我们不希望蜘蛛抓取的页面，也可以进行屏蔽

2、网站页面的抓取

通过日常的日志分析统计中，我们可以看出哪些网站页面比较受蜘蛛的喜爱，并且可以了解到蜘蛛在这些页面的抓取行为，例如说蜘蛛是否抓取了一些没有被收录价值的页面，或者重复的抓取了一些页面等，大家都知道这样会影响到我们网站其他页面的权重传递的。通过分析，我们可以屏蔽蜘蛛抓取这些没有价值的页面，也有效的提高了我们其他页面权重的传递，并且学习蜘蛛比较喜爱的页面优点来补充其他页面的不足

网站日志记录蜘蛛爬行中的HTTP状态码解读
1、200代码，表明蜘蛛爬取正常;
2、301代码，永久重定向;
3、302代码，表明临时重定向;
4、304代码，客户端现已执行了GET，但文件未变化;
5、404代码，拜访的这个链接是过错链接;
6、500代码，表明网站内部程序或服务器有错;

网站日志的含义就是从各个代码数据中来找到合理化的意义，总之每个记载的数据都是一天发生在网站的一些行为，当咱们看到网站日志的时候，以审核的态度进行站内代码的剖析，然后能有用解决网站中所存在的不利于优化的要素，这样才能更好的优化我们的网站