
传统网络数据分析会在交换机上配置网络数据镜像, 将 Packet 复制后发送到目标机器,实现网络流量镜像的功能。
而在云平台上,目前网络数据采集还没有统一的方案。针对私有云平台,目前有流表数据包复制采集、在 hypervisor 上监听采集、vmware 平台分布式虚交换机配置采集、libpcap 抓包采集等方案。
对于 vmware 平台分布式虚交换机配置采集的方案,性能较好,不占用客户机资源,但其属于商业产品,且只适用于购买 vmware 私有云用户;而在 hypervisor 上监听采集,目前有产品开发,性能较好,但只适用于 OpenStack 私有云;采用 OVS 流表方案,优势是免费,不占用客户机资源,但是配置复杂,且只能用于 OpenStack 私有云。
因此,开发基于 libpcap + GRE 封装转发的应用,或许是云平台目前最优的网络流量镜像方案。其使用简单、开源、适用于各类公有云和私有云。
Netis Packet Agent ( https://github.com/Netis/packet-agent) 基于 libpcap 技术,从业务网卡抓包,进行 GRE 封装后将采集到的数据包发送到另一台远端机器,供分析使用。
Packet-Agent 对 Kubernetes 也提供了支持方案。简单来说,Packet-Agent 封装成容器后,与需要监控的业务容器放在同一个 K8S Pod 中,与其共享网络层并抓包镜像网络流量。
具体方案见项目文档:K8S_traffic_mirror
欢迎大家参与此项目,包括 star, fork, 提交 pull-request, 报告 bug, 提出任何意见或建议,或者将该项目介绍给相关的朋友。衷心感谢。
为感谢大家的支持,抽奖送一台 PS4 主机,抽奖方法如下:
1 hillw4h 2019-09-12 16:19:19 +08:00 via Android 看到有 ps4,我马上来了 |
2 cornelia 2019-09-12 16:20:34 +08:00 增加分母 |
3 cbangchenLL7 2019-09-12 16:20:55 +08:00 嗯 |
4 azh7138m 2019-09-12 16:28:24 +08:00 滑稽.webp |
5 LazYFire 2019-09-12 16:36:22 +08:00 前来成为分子 |
6 3CH0 2019-09-12 16:38:56 +08:00 可以的 |
7 laowei222 2019-09-12 16:42:14 +08:00 成为分子 |
8 polythene 2019-09-12 16:42:28 +08:00 提 PR 能不能增加做分子的概率啊? |
9 gotounix 2019-09-12 16:43:10 +08:00 参与一下,好项目! |
10 zsdroid 2019-09-12 16:44:27 +08:00 这个算法 666 |
11 chinvo 2019-09-12 16:44:27 +08:00 via iPhone 有点意思 |
12 coolair 2019-09-12 16:45:15 +08:00 我相信是我 |
13 manhere 2019-09-12 16:46:48 +08:00 有意思 关注 已星 |
14 ESeanZ 2019-09-12 16:47:34 +08:00 先拉低中奖率再说 |
15 test23 2019-09-12 16:47:43 +08:00 看到有 ps4,我来了 |
16 SaberJack 2019-09-12 16:48:34 +08:00 看到 PS4,过来增加分母 |
17 xianxianyu 2019-09-12 16:49:23 +08:00 不错的项目,希望 pr 能提高命中率 |
18 buried 2019-09-12 16:51:14 +08:00 不错 还支持 k8s |
19 illl 2019-09-12 16:51:49 +08:00 via iPhone 来成为分子 |
20 wlw0327 2019-09-12 16:52:08 +08:00 via Android 提 PR 能不能提高中奖率啊 |
21 kukat 2019-09-12 16:52:48 +08:00 分母+1 |
22 d5 2019-09-12 16:52:55 +08:00 关注一个,成为分母了 |
23 cnbattle 2019-09-12 17:01:55 +08:00 为了分子 |
24 vipdog73 2019-09-12 17:07:45 +08:00 增加分母 |
25 joocejie OP @polythene 提交 pull-request 不会增加中奖概率。但是如果提交的 PR 有价值,可以发一些其他奖品给您。 |
26 c 2019-09-12 17:09:11 +08:00 via Android 不错的产品 |
27 KingPL 2019-09-12 17:09:57 +08:00 这个算法 666 |
28 just1 2019-09-12 17:11:51 +08:00 增加分母 lol |
29 xiri 2019-09-12 17:12:37 +08:00 via Android 我来做分母 |
30 402645707 2019-09-12 17:13:42 +08:00 增加分母++ |
31 hohoho 2019-09-12 17:16:59 +08:00 我来做分母 |
32 KotlinAmai 2019-09-12 17:17:29 +08:00 分母+1 |
33 litao3rd 2019-09-12 17:17:41 +08:00 不太理解为啥要抽奖,我还以为是开源项目想找人参与。。。 不过我特地登陆回复也是为了增加分母,哈哈哈哈哈哈 |
34 mason961125 2019-09-12 17:17:54 +08:00 看了下 repo,似乎没找到 benchmark |
35 mywaiting 2019-09-12 17:18:29 +08:00 顺手发个分母 |
36 fo3xx 2019-09-12 17:18:31 +08:00 抽奖算法 6 |
37 284376485 2019-09-12 17:21:54 +08:00 分母+1 |
38 Ahy 2019-09-12 17:21:57 +08:00 加油加油 你是最棒的 |
39 sreal 2019-09-12 17:23:28 +08:00 你们都做分母,那我做分子吧 /doge |
40 yangfan1999 2019-09-12 17:23:32 +08:00 来了, 拉低中奖率 |
41 arfaWong 2019-09-12 17:24:12 +08:00 可以的,分母+1 |
43 joocejie OP @mason961125 benchmark 在这个文档中,在阿里云和 aws 上测试的。: https://github.com/Netis/packet-agent/blob/master/docs/Packet-Agent%E6%80%A7%E8%83%BD%E8%AF%84%E6%B5%8B.md 注:CentOS7 平台上性能曲线非一次线性是因为 libpcap 库 TPACKET_V3 的问题,升级到 libpcap-1.8.1-6.fc27.x86_64.rpm 即可解决。 |
44 crabx 2019-09-12 17:30:04 +08:00 看到有 PS4 我就来啦~ |
45 LinusTor 2019-09-12 17:31:33 +08:00 分母+1 |
46 ChristopherWu 2019-09-12 17:32:35 +08:00 哇。。可真厉害的 |
47 rapperx2 2019-09-12 17:35:37 +08:00 厉害啦,老哥 |
48 99911a 2019-09-12 17:37:13 +08:00 争取成为分子的分母 +1 |
49 xxm459259 2019-09-12 17:39:05 +08:00 好! |
50 TangCuYu2333 2019-09-12 17:39:06 +08:00 via Android 成为分子 |
51 zerozz 2019-09-12 17:39:32 +08:00 分子来了 |
52 shadowyue 2019-09-12 17:39:33 +08:00 看我能再拿一个 ps4 嘛 |
53 morethansean 2019-09-12 17:40:58 +08:00 先码再看,顺便参与抽奖... |
54 Solix 2019-09-12 17:42:59 +08:00 增加获奖几率…… |
55 traderlqm 2019-09-12 17:43:55 +08:00 概率小点 :-) |
56 b1gCi 2019-09-12 17:44:27 +08:00 via Android 让我来!当分母 |
57 leafleave 2019-09-12 17:47:50 +08:00 我来试试 |
58 PyCode 2019-09-12 17:48:23 +08:00 看到有 ps4,我来了 |
59 Tink PRO 分母+1 |
60 Tenlp 2019-09-12 17:52:10 +08:00 via Android 那我拉低一波中奖率 |
61 alschw 2019-09-12 17:54:20 +08:00 via Android 来当分母了 |
62 caserest 2019-09-12 17:55:17 +08:00 来当分母啦 |
63 gdcbhtd 2019-09-12 18:06:34 +08:00 分母+1 |
64 fcj558 2019-09-12 18:07:58 +08:00 via iPhone 那自然是要支持一下啦 |
65 sun522198558 2019-09-12 18:10:50 +08:00 分母+1 |
66 Rainwater 2019-09-12 18:18:27 +08:00 我只看到了 PS4 |
67 atan 2019-09-12 18:20:10 +08:00 分母+1 |
68 sevenphp 2019-09-12 18:23:44 +08:00 手持 NS 当分母 |
69 hotspotvm 2019-09-12 18:23:51 +08:00 争取成为分子的分母 +1 |
70 bomb77 2019-09-12 18:24:09 +08:00 阿里云通用型 suse12.2 的测试 2cpu 那个 cpu 到顶峰就开始下降波动了是啥意思,是开始丢包了吗? |
71 vstar 2019-09-12 18:24:52 +08:00 分子+1 |
72 cjc2017 2019-09-12 18:25:33 +08:00 分母+1 |
73 lycc 2019-09-12 18:26:06 +08:00 via Android 来了!!!支持大佬 |
74 VermouthcZzz 2019-09-12 18:26:07 +08:00 PS4 呦呦 come on |
75 40huo 2019-09-12 18:27:38 +08:00 争当分子 |
76 uxgnok 2019-09-12 18:28:54 +08:00 万一中了呢 |
77 fire2y 2019-09-12 18:31:53 +08:00 降低中奖率 |
78 cmllwxxl 2019-09-12 18:33:58 +08:00 我是有梦想的分子 |
79 jiezhi 2019-09-12 18:34:42 +08:00 via iPhone 感觉就没中过 |
80 Realucas 2019-09-12 18:35:31 +08:00 via iPhone 狗头 |
81 ysicing 2019-09-12 18:35:52 +08:00 via Android 分母。先 mark 为敬 |
82 PlayByMyself 2019-09-12 18:37:52 +08:00 via Android 分母 |
83 wph95 2019-09-12 18:39:21 +08:00 分母他来了 |
84 ytlm 2019-09-12 18:43:56 +08:00 via Android 凑凑热闹 |
85 zzmstring 2019-09-12 18:47:33 +08:00 我来了 啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊 |
86 wuYin 2019-09-12 18:48:21 +08:00 via Android 分母+1 |
87 MrMario 2019-09-12 18:48:48 +08:00 via iPhone 赞 |
88 jimages 2019-09-12 18:49:04 +08:00 via iPhone ps 朝我来了 |
89 Rehtt 2019-09-12 18:50:22 +08:00 via Android 分母+1 |
90 spemoon 2019-09-12 18:58:21 +08:00 厉害了! |
91 sixm 2019-09-12 18:59:22 +08:00 分母+1 |
92 menyakun 2019-09-12 19:03:28 +08:00 分母+1 |
93 pinkward 2019-09-12 19:05:51 +08:00 分子! |
94 jkbspin 2019-09-12 19:07:44 +08:00 厉害了 |
95 SmallZheng 2019-09-12 19:09:19 +08:00 via Android 分子来了 |
96 wingoo 2019-09-12 19:12:34 +08:00 fenmu |
97 unknownservice 2019-09-12 19:14:18 +08:00 看不懂的都要 mark 一下 |
98 iakisey 2019-09-12 19:15:51 +08:00 via iPhone 来了老弟 |
99 WhyLiam 2019-09-12 19:17:28 +08:00 为了 ps4 |
100 TheWalkingDead 2019-09-12 19:17:58 +08:00 分母 is ok |