[論文レビュー] A Federated Semi-Supervised Learning Approach for Network Traffic Classification

Yao Peng, Meirong He+1 more|arXiv (Cornell University)|Jul 8, 2021

Internet Traffic Analysis and Secure E-voting参考文献 21被引用数 8

ひとこと要約

本稿では、ユーザーのプライバシーを保護するとともに、ラベル付きデータへの依存を低減するためのフェデレーテッド半教師あり学習フレームワークをネットワークトラフィック分類に提案する。分散クライアントでラベルなしトラフィックデータを用いてグローバルモデルを学習し、中央サーバーでラベル付きデータを用いることで、シンプルサンプリングとインクリメンタルサンプリングの両方を用いて、91.08%および97.81%の精度を達成し、集中学習と比較して最小限の性能差を示した。

ABSTRACT

Network traffic classification, a task to classify network traffic and identify its type, is the most fundamental step to improve network services and manage modern networks. Classical machine learning and deep learning method have developed well in the field of network traffic classification. However, there are still two major challenges. One is how to protect the privacy of users' traffic data, and the other is that it is difficult to obtain labeled data in reality. In this paper, we propose a novel approach using federated semi-supervised learning for network traffic classification. In our approach, the federated servers and several clients work together to train a global classification model. Among them, unlabeled data is used on the client, and labeled data is used on the server. Moreover, we use two traffic subflow sampling methods: simple sampling and incremental sampling for data preprocessing. The experimental results in the QUIC dataset show that the accuracy of our federated semi-supervised approach can reach 91.08% and 97.81% when using the simple sampling method and incremental sampling method respectively. The experimental results also show that the accuracy gap between our method and the centralized training method is minimal, and it can effectively protect users' privacy and does not require a large amount of labeled data.

研究の動機と目的

• ネットワークトラフィック分類におけるユーザーのプライバシー保護の課題に対処すること。
• 高価で入手が困難な大規模なラベル付きトラフィックデータへの依存を低減すること。
• クライアントがラベルなしデータで局所的に学習し、サーバーがラベル付きデータを用いて更新を集約する協調学習フレームワークの開発。
• シンプルサンプリングおよびインクリメンタルサンプリングの2つのトラフィックサブフロー抽出手法が、モデルの精度向上に与える影響を評価すること。
• フェデレーテッド半教師あり学習が、データプライバシーを保持しつつも集中学習に近い性能を達成できることを示すこと。

提案手法

• 複数のクライアントがラベルなしネットワークトラフィックデータを保有するフェデレーテッド学習フレームワークを設計し、中央サーバーがラベル付きデータを保有する。
• クライアントは、ラベル付きおよびラベルなしサンプルの両方を活用する半教師あり学習戦略を用いて、ラベルなしトラフィックデータ上で局所的なモデル学習を実行する。
• サーバーは、FedAvgまたは類似の集約手法を用いてクライアントからのモデル更新を集約し、グローバル分類モデルを訓練する。
• トラフィックデータの前処理を改善し、学習効率と精度を向上させるために、2種類のサブフロー抽出手法（シンプルサンプリングおよびインクリメンタルサンプリング）を適用する。
• 半教師あり設定においてラベルなしデータを効果的に活用するため、自己学習または擬似ラベル付けメカニズムを統合する。
• クライアントとサーバー間の通信ラウンドを繰り返し行い、グローバルモデルを段階的に最適化することで、データ転送を最小限に抑え、プライバシーを保護する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッド半教師あり学習は、ユーザーのトラフィックデータのプライバシーを保護しつつ、効果的にネットワークトラフィックを分類できるか？
• RQ2 提案手法のフェデレーテッドアプローチの分類精度は、集中学習と比較してどの程度の性能を示すか？
• RQ3 シンプルサンプリングおよびインクリメンタルサンプリングの異なるトラフィックサブフロー抽出戦略が、モデル精度に与える影響は何か？
• RQ4 提案手法は、大規模なラベル付きトラフィックデータの必要性をどの程度低減できるか？
• RQ5 分散化され、ラベルなしのデータに基づく学習においても、フェデレーテッド学習アーキテクチャは高い汎化能力を維持できるか？

主な発見

• 提案されたフェデレーテッド半教師あり学習アプローチは、QUICデータセットを用いたシンプルサンプリング手法で91.08%の精度を達成した。
• インクリメンタルサンプリングを用いることで、モデルは97.81%の精度に到達し、抽出戦略の有効性が示された。
• フェデレーテッドアプローチと集中学習との間の性能差は最小限であり、強力な汎化能力を示している。
• 生のトラフィックデータをローカルデバイスに保持し、モデル更新のみを共有することで、ユーザーのプライバシーを効果的に保護している。
• ラベル付きデータへの依存が顕著に低減されており、ラベル付けが高コストである実世界の展開において実用的である。
• インクリメンタルサンプリング手法がシンプルサンプリングを上回る性能を示しており、適応的なデータ選択がモデル学習の効率を向上させることを示唆している。