一个seo工作人员，特别是那些大型网站的seo人员来说，能独立分析网站日志是一种必不可少的技能，因为大型的网站栏目结构以及页面非常的繁杂，蜘蛛也是少不了会频繁访问，从蜘蛛给网站留下的一些痕迹上面能够掌控网站不少的信息，这对网站优化运营是一种非常必要的参考，前面我的文章里面也对蜘蛛状态码也进行了初步的介绍，这篇文章也对网站日志能读取到的信息作出了总结：

分析网站日志能获取到的信息总结

一、可以看出网站页面有哪些搜索引擎的蜘蛛抓取

从网站日志里面可以看出网站被哪些蜘蛛所抓取，每个类型的蜘蛛也都属于自己的特殊标头，各大搜索引擎的标头特征如下所示：

蜘蛛抓取网站信息

百度蜘蛛:baiduspider

谷歌蜘蛛：Googlebot

360蜘蛛：360Spider

SOSO蜘蛛：Sosospider

雅虎蜘蛛：“Yahoo! Slurp China”或者Yahoo!

有道蜘蛛：YoudaoBot，YodaoBot

搜狗蜘蛛：Sogou News Spider

MSN蜘蛛：msnbot，msnbot-media

必应蜘蛛：bingbot

提醒：网站的日志里面也有可能会出现一些其它私人开发的抓取器所抓取，由此我们可能会发现一些奇怪的蜘蛛抓取痕迹。另外百度也有属于自己的匿名蜘蛛，我们也要注意区分注意。

二、可以统计网站目录蜘蛛抓取的总量

通过抓取总量的分析可以对比出网站哪个目录更受搜索引擎的关注，一般来说蜘蛛抓取越频繁的目录，site网站此目录的排名会相对靠前，我们也可通过目录的蜘蛛访问量来适当调整目录的结构，对于那些抓取压力较大但是不怎么重要的目录也可适当缩减链接入口，以免阻碍给其它重要目录的抓取。

三、网站页面的抓取。

可以从中看出哪个页面蜘蛛是否抓取了一些没有被收录价值的页面，或者老是重复的抓取了这些页面等，那么同理要先采取措施予以频闭，要么是运用到nofollow标签，要么是robots文件等，这样就会降低因为搜索引擎抓取到大量相关性低或者质量度差的页面而影响到页面的权重传递这样的不利影响。

四、蜘蛛平均抓取页面的次数、页面平均停留时间以及抓取的数量。

（1）、平均每次抓取页面数=总抓取量/访问次数

（2）、单页抓取停留时间

（3）、页面平均停留时间=总停留时间/访问次数

从以上的分析能够很清晰的看出蜘蛛是否频繁关注自己的网站，而且抓取的页面越多，深度越足也能反映出网站的活跃度高，而且在停留的时间上面也能初步看出网站的页面和文章是否新颖或者原创，这是页面质量度的一个体现。

五、可以一览蜘蛛方面各网页的状态码

状态码是网站日志里面最重要的一个方面了，这是蜘蛛对于网站页面状态最直观的反映，从这些状态码中可以看出更多详细的信息，我前面有一篇文章对各种蜘蛛状态码上面给出了非常详细的介绍。

光年日志分析工具界面

六、了解网站日志蜘蛛的来访时间

对网站日常日志分析总结中，可以很直观的看出每天具体是哪个时间段是蜘蛛访问的高峰时期，我们为了迎合搜索引擎，也可以相应调整网站的更新时间，争取在蜘蛛活跃度最高的时间段更新文章，这样对自己网站的收录会有非常大的帮助，甚至还有可能达到秒收的效果！

总之，分析网站日志是一个非常有意义的技能，特别是网站建立的初期和运营遇到状况的时候，分析日志这个方面就更是尤为重要，当然再碰到信息量特别大的时候，单手动看效果是不好的，这里推荐光年老师的日志分析工具，功能非常强大，基本能很好的满足一般网站的分析需求。