Time: 2014-09-09 Tag: 设置apache日志记录蜘蛛爬行

 apache日志为什么不记录百度蜘蛛?这个问题相信很多初学者都基本碰到了,apache日志默认是不记录百度蜘蛛、谷歌和各大搜索引擎的蜘蛛程序的,但只需要修改一个地方就可以解决这个问题,现在就直接将答案写出来:
比如曾经有个朋友在百度知道中提问:
<IfModule log_config_module>
LogFormat “%h %l %u %t \”%r\” %>s %b \”%{Referer}i\” \”%{User-Agent}i\”" combined
LogFormat “%h %l %u %t \”%r\” %>s %b” common
<IfModule logio_module>
LogFormat “%h %l %u %t \”%r\” %>s %b \”%{Referer}i\” \”%{User-Agent}i\” %I %O” combinedio
</IfModule>
CustomLog “logs/access.log” common
</IfModule>
这是我目前的设置,不记住主机名
哪位给我提供个范本 记录访问明细和主机头记录蜘蛛的
        1、打开httpd.conf文件找到以下部分:
LogFormat “%h %l %u %t \”%r\” %>s %b \”%{Referer}i\” \”%{User-Agent}i\”" combined
        LogFormat “%h %l %u %t \”%r\” %>s %b” common
        LogFormat “%{Referer}i -> %U” referer
        LogFormat “%{User-agent}i” agent
        具体有关LogFormat的用法请参照:
        2、接着我们继续向下移动,找到虚拟主机配置段,也就是VirtualHost段,这个是由你自己来配置的。本站的虚拟主机的日志文件是这样设置的:
如果你想记录百度蜘蛛的访问全称,就按色部分设置:
        CustomLog /var/html/faq/logs/linux520-access.log combined
        如果不想记录百度蜘蛛的头部分,则如下设置:
        CustomLog /var/html/faq/logs/linux520-access.log common
        按照以上设置一下,看看你的日志文件是否发生变化了。