tcpdump内容抓取和基于IP统计流量

网友投稿 888 2023-02-15

本站部分文章、图片属于网络上可搜索到的公开信息，均用于学习和交流用途，不能代表睿象云的观点、立场或意见。我们接受网民的监督，如发现任何违法内容或侵犯了您的权益，请第一时间联系小编邮箱jiasou666@gmail.com 处理。

tcpdump内容抓取和基于IP统计流量

一、内容抓取

被抓取机器A（各种系统，各种盒子，各种电视机）：

IP：192.168.100.111

网关：192.168.100.24

(tcpdump执行机）抓取机器B：

IP：192.168.100.24

B机器：

1
2
3
<code>#echo 1 &gt; /proc/sys/net/ipv4/ip_forward</code>
#iptables -t nat -A POSTROUTING -s 192.168.100.111 -j MASQUERADE
#tcpdump -i eth0 -nn -vv -tttt -s 65535 host 192.168.100.111 -w tcpdump.txt

抓取的tcpdump.txt文档可以通过wireshark读取内容

二、基于IP统计流量

问题：基于ip统计流量。

硬件：学校集群

难点：

1.当使用高速网卡(千兆或IB)并且网卡满负荷时丢包率如何

2.程序的cpu占用率如何

3.日志文件过大

方案及分析：

1.抓包的实现方式有多种，如用libpcap库、采用零拷贝方式、使用PF_RING接口、直接使用系统函数

我看了一些文章并测试了netsniff-ng程序(基于零拷贝)，我认为零拷贝方式效率最高，丢包率最低。但是我

测试tcpdump时发现其效率也较高(测试时网卡几乎满负荷)，并且几乎没有丢包，又由于其方便使用等其他

因素最终选用tcpdump。

2.测试tcpdump抓包时cpu占用率4%左右

3.tcpdump由于记录每个数据包，虽然我们可以限制每个包记录的字节数(-s选项)，但是由于网卡满负荷，

所以包的数量格外大。 如下，60秒已经抓到748168个包，导致pcap文件也格外大

Number of packets: 748168File size: 58394582 bytesData size: 3900660165 bytesCapture duration: 59.963470 seconds

因此，我使用-G选项每分钟记录一个pcap文件然后自己统计删减其中数据，最后删掉该pcap文件。即每分钟

生成一个如下的文件（时间间隔可以根据需要改）File name: /public/home/wangvsa/software/tcp-audit/2012-07-16,12:54:54.pcapFile encapsulation: EthernetNumber of packets: 748168File size: 58394582 bytesData size: 3900660165 bytesCapture duration: 59.963470 secondsStart time: Mon Jul 16 12:54:53 2012End time: Mon Jul 16 12:55:53 2012Data rate: 65050607.75 bytes/sData rate: 520404861.98 bits/s

IPv4 total packet: 748037source ip port dir dest ip port proto flow10. 10. 10. 61: 9090 > 10. 10. 10. 49: 27884 tcp 17930. 0. 0. 0: 68 > 255.255.255.255: 67 UDP 531010. 10. 10. 49: - > 10. 10. 10. 62: - ICMP 234 10. 10. 10. 49: 22 > 10. 10. 10. 61: 47051 tcp 117124 10. 10. 10. 48: 38906 > 10. 10. 10. 49: 16797 tcp 4428897410. 10. 10. 48: 64468 > 10. 10. 10. 49: 45094 tcp 17110. 10. 10. 61: 47051 > 10. 10. 10. 49: 22 tcp 540610. 10. 10. 49: 27884 > 10. 10. 10. 61: 9090 tcp 211210. 10. 10. 49: 45094 > 10. 10. 10. 48: 64468 tcp 10810. 10. 10. 62: - > 10. 10. 10. 49: - ICMP 23410. 10. 10. 49: 16797 > 10. 10. 10. 48: 38906 tcp 3856230180具体实现：

1.编写针对pcap文件的统计脚本(如果对效率要求高可以写成c语言程序)，共两个文件tcp-audit.sh 和

tcp-reduce.sh。在tcp-audit.sh中调用了tcp-reduce.sh，自己不要直接调用。

先看tcp-audit.sh，这个文件从ready.txt中读取内容，每一行都是一个要统计的pcap文件的文件名，稍后

讨论如何得到的ready.txt文件。

再看tcp-reduce.sh，这个脚本完成了所有的统计操作并且输出到日志文件中。这个脚本中使用了grep和sed命令

来格式话pcap文件的输出方便之后awk程序的使用。还是用了capinfos这个程序提供的一些分析数据。

注：tcpdump 和 capinfos 版本不同，其参数选项要注意修改。如capinfos 的-x在旧版本中是用-i

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
<code>#!/bin/bash
# tcp-reduce.sh
DIR="/home/wangchen/shell_ex"</code>
# 根据pcap文件名构造出日志文件名(以时间命名)
tmp1=$*
tmp2=(${tmp1//./ })
LOG_FILE_NAME=${tmp2[0]}".log"
# 输出文件信息，即网卡信息
capinfos-a-c-d-e-E-s-u-x-y$DIR/$*&gt;&gt;$DIR/$LOG_FILE_NAME
# 将tcpdump文件生成可读文本
# 由grep，sed执行过滤、替换处理后交给awk
# 使用awk语言处理数据行，统计基于ip的流量信息
tcpdump-q-n-e-t-r$DIR/$*\
|grep"IPv4"|sed's/,/ /g; s/&gt;/ /g; s/://g'\
|awk'
BEGIN {
printf("\n")
}
{
# $5:packet length
# $6:source ip.port
# $7:destination ip.port
# $8:proto
# array_flow是数组记录每个方向的流量
# 其下标是数据传输方向(字符串)
count++
way = $6"."$7"."$8
for(x in arr_total_flow)
{
if(way==x)
{
arr_total_flow[way] += $5
next
}
}
arr_total_flow[way] = $5
}
END {
printf("\nIPv4 total packet: %d\n",NR)
printf("%16s%6s%6s%19s%6s\tproto\tflow\n","source ip","port","dir","dest ip","port")
for(x in arr_total_flow)
{
# 格式化输出
split(x,chunks,".")
if(chunks[9]=="ICMP")
{
printf("%3s.%3s.%3s.%3s:%6s &gt; %3s.%3s.%3s.%3s:%6s\t%s\t%d\n",
chunks[1],chunks[2],chunks[3],chunks[4],"-", # 源地址 : 端口
chunks[5],chunks[6],chunks[7],chunks[8],"-", # 目的地址 : 端口
chunks[9],arr_total_flow[x]) 　　　　 # 协议 总流量
}
else
{
printf("%3s.%3s.%3s.%3s:%6s &gt; %3s.%3s.%3s.%3s:%6s\t%s\t%d\n",
chunks[1],chunks[2],chunks[3],chunks[4],chunks[5], # 源地址 : 端口
chunks[6],chunks[7],chunks[8],chunks[9],chunks[10], # 目的地址 : 端口
chunks[11],arr_total_flow[x]) 　　　　　　# 协议 总流量
}
}
}
'&gt;&gt;$DIR/$LOG_FILE_NAME

2.接下来就是如何运行的问题，首先用root权限执行tcpdump抓包程序，我使用的命令如下：

1
<code>sudo tcpdump-ieth3-s84-G60-z./tcp-add.sh-w%F,%T.pcap</code>

参数分析：-i eth3 在eth3上抓包； -s 84每个包最多记录84字节； -G 60 每60秒就在打开一个文件记录；

-z  ./tcp-add.sh配合-G使用，每次记录完一个文件后执行./tcp-add.sh脚本(后面讲这个脚本)

-w %F,%T.pcap 输出，文件名有时间组成%F表示年月日，%T表示时分秒，如2012-07-16,12:54:54.pcap

再来看这个tcp-add.sh，这个脚本十分简单，实际就是将刚才的记录完的pcap文件名写到ready.txt文件中。

1
2
3
4
<code>#!/bin/bash
# 作为tcpdump的-z参数使用
# 将已经存储完的pcap文件名加入ready.txt等待处理</code>
echo$*&gt;&gt;ready.txt

这样就会每分钟生成一个pcap文件，并将其文件名写到ready.txt文件中。

3.下面就要用到cron来定时执行我们的统计任务。在开启crond服务后执行如下命令sudo crontab -e

此命令打开一个文件，在最后一行加入如下，之后保存退出 */2 * * * * /home/wangchen/shell_ex/tcp-audit.sh这一条表示每两分钟（时间随意定）执行一次tcp-audit.sh脚本。

标签：运行 程序 系统 数据 测试
上一篇:消防告警处理（关于消防的警告）
下一篇:lr性能测试（lr性能测试结果分析）
相关文章

 发表评论

暂时没有评论，来抢沙发吧~