**工作中常见shell,结合awk**

 

 
  1. 系统连接状态篇: 

  2. 1.查看TCP连接状态 

  3. netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 

  4. 2.查找请求数请20个IP(常用于查找攻来源): 

  5. netstat -anlp|grep 80|grep tcp|awk '{print $5}'|awk -F: '{print $1}'|sort|uniq -c|sort -nr|head -n20 

  6. netstat -ant |awk '/:80/{split($5,ip,":");++A[ip[1]]}END{for(i in A) print A[i],i}'|sort -rn|head -n20 

  7. 3.用tcpdump嗅探80端口的访问看看谁最高 

  8. tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' |sort | uniq -c | sort -nr |head -20 

  9. 4.查找较多time_wait连接 

  10. netstat -n|grep TIME_WAIT|awk '{print $5}'|sort|uniq -c|sort -rn|head -n20 

  11. 5.找查较多的SYN连接 

  12. netstat -an | grep SYN | awk '{print $5}' | awk -F: '{print $1}' | sort | uniq -c |sort -nr | more 

  13. 6.根据端口列进程 

  14. netstat -ntlp | grep 80 | awk '{print $7}' | cut -d/ -f1 

  15. 网站日志分析篇1(Apache): 

  16. 1.获得访问前10位的ip地址 

  17. cat access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10 

  18. cat access.log|awk '{counts[$(11)]+=1}; END {for(url in counts) print counts[url], url}' 

  19. 2.访问次数最多的文件或页面,取前20 

  20. cat access.log|awk '{print $11}'|sort|uniq -c|sort -nr|head -20 

  21. 3.列出传输最大的几个exe文件(分析下载站的时候常用) 

  22. cat access.log |awk '($7~/\.exe/){print $10 " " $1 " " $4 " " $7}'|sort -nr|head -20 

  23. 4.列出输出大于200000byte(约200kb)的exe文件以及对应文件发生次数 

  24. cat access.log |awk '($10 > 200000 && $7~/\.exe/){print $7}'|sort -n|uniq -c|sort -nr|head -100 

  25. 5.如果日志最后一列记录的是页面文件传输时间,则有列出到客户端最耗时的页面 

  26. cat access.log |awk  '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head-100 

  27. 6.列出最最耗时的页面(超过60秒的)的以及对应页面发生次数 

  28. cat access.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100 

  29. 7.列出传输时间超过 30 秒的文件 

  30. cat access.log |awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20 

  31. 8.统计网站流量(G) 

  32. cat access.log |awk '{sum+=$10} END {print sum/1024/1024/1024}' 

  33. 9.统计404的连接 

  34. awk '($9 ~/404/)' access.log | awk '{print $9,$7}' | sort 

  35. 10. 统计http status. 

  36. cat access.log |awk '{counts[$(9)]+=1}; END {for(code in counts) print code, counts1}' 

  37. cat access.log |awk '{print $9}'|sort|uniq -c|sort -rn 

  38. 10.蜘蛛分析 

  39. 查看是哪些蜘蛛在抓取内容。 

  40. /usr/sbin/tcpdump -i eth0 -l -s 0 -w - dst port 80 | strings | grep -i user-agent |grep -i -E 'bot|crawler|slurp|spider' 

  41. 数据库篇 

  42. 1.查看数据库执行的sql 

  43. /usr/sbin/tcpdump -i eth0 -s 0 -l -w - dst port 3306 | strings | egrep -i'SELECT|UPDATE|DELETE|INSERT|SET|COMMIT|ROLLBACK|CREATE|DROP|ALTER|CALL'