[论文解读] A Federated Semi-Supervised Learning Approach for Network Traffic Classification

Yao Peng, Meirong He+1 more|arXiv (Cornell University)|Jul 8, 2021

Internet Traffic Analysis and Secure E-voting参考文献 21被引用 8

一句话总结

本文提出了一种用于网络流量分类的联邦半监督学习框架，可在保护用户隐私的同时减少对标注数据的依赖。通过在去中心化的客户端上使用未标注的流量数据和在中央服务器上使用标注数据训练全局模型，该方法在使用简单采样和增量采样时分别实现了91.08%和97.81%的准确率，与集中式训练相比性能差距极小。

ABSTRACT

Network traffic classification, a task to classify network traffic and identify its type, is the most fundamental step to improve network services and manage modern networks. Classical machine learning and deep learning method have developed well in the field of network traffic classification. However, there are still two major challenges. One is how to protect the privacy of users' traffic data, and the other is that it is difficult to obtain labeled data in reality. In this paper, we propose a novel approach using federated semi-supervised learning for network traffic classification. In our approach, the federated servers and several clients work together to train a global classification model. Among them, unlabeled data is used on the client, and labeled data is used on the server. Moreover, we use two traffic subflow sampling methods: simple sampling and incremental sampling for data preprocessing. The experimental results in the QUIC dataset show that the accuracy of our federated semi-supervised approach can reach 91.08% and 97.81% when using the simple sampling method and incremental sampling method respectively. The experimental results also show that the accuracy gap between our method and the centralized training method is minimal, and it can effectively protect users' privacy and does not require a large amount of labeled data.

研究动机与目标

• 解决在网络流量分类中保护用户隐私的挑战。
• 减少对大规模标注流量数据的依赖，因为这类数据获取成本高且困难。
• 开发一种协作学习框架，其中客户端在本地对未标注数据进行训练，而服务器使用标注数据聚合更新。
• 评估两种流量子流采样方法——简单采样和增量采样——在提升模型准确率方面的有效性。
• 证明联邦半监督学习可在保护数据隐私的同时实现接近集中式训练的性能。

提出的方法

• 设计了一种联邦学习框架，其中多个客户端持有未标注的网络流量数据，而中央服务器持有标注数据。
• 客户端使用半监督学习策略在未标注的流量数据上进行本地模型训练，利用标注样本和未标注样本。
• 服务器使用FedAvg或类似的聚合技术聚合来自客户端的模型更新，以训练全局分类模型。
• 应用两种子流采样方法——简单采样和增量采样——对流量数据进行预处理，以提高训练效率和准确率。
• 在半监督设置中，整合自训练或伪标签机制，以有效利用未标注数据。
• 通过客户端与服务器之间的多轮通信，迭代优化全局模型，最大限度减少数据传输并保护隐私。

实验结果

研究问题

• RQ1 联邦半监督学习能否在保护用户数据隐私的同时有效分类网络流量？
• RQ2 与集中式训练相比，所提出的联邦方法在分类准确率方面的表现如何？
• RQ3 不同的流量子流采样策略——简单采样和增量采样——对模型准确率有何影响？
• RQ4 所提出的方法在多大程度上能够减少对大规模标注流量数据的需求？
• RQ5 尽管数据是去中心化且未标注的，联邦学习架构是否仍能保持高模型泛化能力？

主要发现

• 所提出的联邦半监督学习方法在QUIC数据集上使用简单采样方法时，准确率达到91.08%。
• 采用增量采样时，模型准确率达到97.81%，表明采样策略具有显著有效性。
• 联邦方法与集中式训练之间的性能差距极小，表明其具备强大的泛化能力。
• 该方法通过将原始流量数据保留在本地设备上，仅共享模型更新，有效保护了用户隐私。
• 该方法显著降低了对标注数据的依赖，使其在标注成本高昂的实际部署场景中更具实用性。
• 增量采样方法优于简单采样，表明自适应数据选择可提升模型学习效率。