查询并禁止apache中异常访问量的用户

Apache中的异常访问,通常指的是频繁、大量访问的用户,通过apache的log,结合linux下的几个命令,可以分析这些用户,并通过apache的配置文件来禁止他们访问。

首先,更改apache的log方式,不记录一些图像、css等文件,这样在log中每一行基本上都能对应一次访问,如果不去除图像等文件的记录,正常用户访问一个页面,同时也会下载页面上的图像、css等文件,会产生多条log记录,影响计数的结果。在apache的conf文件中增加如下配置:

SetEnvIfNoCase Request_URI \.css$ useless-file
SetEnvIfNoCase Request_URI \.gif$ useless-file
SetEnvIfNoCase Request_URI \.ico$ useless-file
SetEnvIfNoCase Request_URI \.jpg$ useless-file
SetEnvIfNoCase Request_URI \.js$ useless-file
CustomLog logs/fwolf.com/access.log combined env=!useless-file

这样就可以了,关于SetEnvIf的其他用法,可以参见Apache文档中SetEnvIfEnvironment Variables in Apache部分。

接下来,经过一段时间的运行,我们就可以分析log文件中访问量最大的用户了,只需要一条命令:

cat access.log |awk '{print $1}'| sort | uniq -c |sort -n

一点点的来看:

  • cat就不用说了;
  • awk的作用,就是把第一列,也就是客户端ip地址分拣出来;
  • 第一个sort,是把分拣出来的ip地址排序,这样相同的ip地址会排在一起
  • uniq是一个去除重复值的工具,但是带上-c参数,就可以统计出每个值出现了多少次
  • 最后的sort,把uniq产生的结果进行排序,按照-n这个参数的默认设置,最大的排在最下面。

所以,我们得到的结果应该是这样的:

......
2040 219.148.106.198
2047 218.12.78.14
2149 218.12.26.233
2205 121.28.4.34

第一列就是访问次数,第二列是ip地址,再回去对照log文件中的详细内容,如果发现哪个访问量大户是某某机器人的话,就可以禁止掉了,还是修改apache的conf文件:

<Directory />
    Order Deny,Allow
    Deny from 219.143.69.2
    Deny from 218.12.26.233
    Deny from 61.135.162.51
    Allow from all
</Directory>

如此反复监测、设置,直到没有人捣乱为止。

同理,如果想查看反复刷新查看某一页面的用户,可以用如下命令:

grep "GET /url/to/some/file" access.log |awk '{print $1}' |sort |uniq -c |sort -n

8 thoughts on “查询并禁止apache中异常访问量的用户”

  1. 没又是一篇让我受益而且尝试之后确实有用的文章。谢谢

    我建议最后的 sort用 sort -nr 这样访问最大的网站排在前面。配合 |less ,使用起来更方便。

    cat access.log |awk '{print $1}'| sort | uniq -c |sort -nr |less
    

    在man sort中说了 -n 是以数字顺序排列,-r是反向排列(reverse)

    特别喜欢你对awk的解释。一直没明白

    推荐你看看 howtoforge.com 有些对你会有帮助。

    希望你坚持。将来也有个中文的howtoforge。hehe

    Reply

  2. 小站的话我就直接用限制并发和带宽的模块和Apache一起工作, 如果是扫描等大流量的话 可以用Portsentry等方式 而大网站的话 程序解决,而awstats等来做数据分析再解决也简单. 如果在apache上做Deny的话,效率很大折扣

    Reply

  3. hi there 最后的conf文件好像写错了吧,Order Deny,Allow应该是Order Allow,Deny order是指定deny和order的顺序,如果按照你的写法,先deny指定的ip,然后又allow from all,最后的结果应该是allow from all。你指定的ip没有被屏蔽。 是我记错了还是你写错了,请问你经过测试了吗?

    Reply

Leave a Reply

Your email address will not be published. Required fields are marked *