[論文レビュー] Semi-WTC: A Practical Semi-supervised Framework for Attack Categorization through Weight-Task Consistency

Zihan Li, Wentao Chen+3 more|arXiv (Cornell University)|May 19, 2022

Network Security and Intrusion Detection被引用数 5

ひとこと要約

本論文では、クラス不均衡を解消するための重みタスク整合性（WTC）と、効果的な自己教師あり学習を実現するための再帰的プロトタイプモジュール（RPM）を用いた、細分化攻撃分類のための半教師ありフレームワークであるSemi-WTCを提案する。SOTA手法と比較して、94.06%の精度を達成し、学習時間を90%削減した。

ABSTRACT

Supervised learning has been widely used for attack categorization, requiring high-quality data and labels. However, the data is often imbalanced and it is difficult to obtain sufficient annotations. Moreover, supervised models are subject to real-world deployment issues, such as defending against unseen artificial attacks. To tackle the challenges, we propose a semi-supervised fine-grained attack categorization framework consisting of an encoder and a two-branch structure and this framework can be generalized to different supervised models. The multilayer perceptron with residual connection is used as the encoder to extract features and reduce the complexity. The Recurrent Prototype Module (RPM) is proposed to train the encoder effectively in a semi-supervised manner. To alleviate the data imbalance problem, we introduce the Weight-Task Consistency (WTC) into the iterative process of RPM by assigning larger weights to classes with fewer samples in the loss function. In addition, to cope with new attacks in real-world deployment, we propose an Active Adaption Resampling (AAR) method, which can better discover the distribution of unseen sample data and adapt the parameters of encoder. Experimental results show that our model outperforms the state-of-the-art semi-supervised attack detection methods with a 3% improvement in classification accuracy and a 90% reduction in training time.

研究の動機と目的

• 少数の攻撃クラスが不足している半教師あり攻撃分類におけるデータ不均衡の課題に対処すること。
• 未学習攻撃や敵対的摂動に対しても耐性を持ち、実世界での展開に適した汎化性能と耐性を向上させること。
• 分布に配慮したサンプル選択メカニズムを用いて、大規模なラベル付きデータへの依存度を低減すること。
• さまざまなディープラーニングモデルと互換性があり、汎用的かつ拡張可能なフレームワークを構築すること。
• 限られたラベル付きデータ下での細分化攻撃検出において、学習効率と分類性能を向上させること。

提案手法

• 予測の一貫性を強制するために、教師ありブランチと教師なしブランチを組み合わせた二本のブランチアーキテクチャを採用する。
• 複雑性を低減しつつ、頑健な特徴を抽出できるように、ResBMLP（リカージブコネクトドマルチレイヤーパーセプトロン）をエンコーダとして使用する。
• 再帰的プロトタイプモジュール（RPM）により、偽ラベルが付与された未ラベルデータからのプロトタイプの繰り返し更新を実現し、自己教師あり学習を促進する。
• 重みタスク整合性（WTC）により、学習中に少数クラスに高い損失重みを動的に割り当て、長尾分布の不均衡を緩和する。
• アクティブ適応リサンプリング（AAR）により、カテゴリ分布を最もよく表すコアサンプルを選択し、意思決定境界に基づくサンプリングより優れた汎化性能を実現する。
• モジュラー構造を採用しており、さまざまな教師ありモデルと統合可能で、プラグアンドプレイでの導入が可能である。

実験結果

リサーチクエスチョン

• RQ1 限られたラベル付きデータ下で、半教師ありフレームワークが細分化攻撃分類の精度を効果的に向上させられるか？
• RQ2 広範な再重み付けやデータ拡張を必要とせずに、攻撃データセットにおけるクラス不均衡をどのように緩和できるか？
• RQ3 分布的代表性に基づくアクティブサンプル選択は、インシデント検出における従来のアクティブラーニングを上回る性能を示せるか？
• RQ4 実世界の展開において、未確認攻撃や敵対的例に対して、フレームワークがどの程度耐性を保っているか？
• RQ5 WTCとRPMの統合が、学習効率とモデルの汎化性能をどの程度向上させるか？

主な発見

• Semi-WTCは、AndMal 2020データセットで94.06%の分類精度を達成し、前回のSOTA手法（FARE-semisup）を2.93ポイント上回った。
• FARE-semisupと比較して、学習時間を90%削減し、わずか146秒の学習時間で実現した。
• Semi-WTCはマクロ-F1スコアを93.72%まで向上させ、少数攻撃クラスにおける強力な性能を示した。
• 自己教師ありおよび一貫性に基づく学習のおかげで、汚染攻撃や敵対的例に対しても耐性を示した。
• アクティブ適応リサンプリング（AAR）は、代表的なサンプルを効果的に同定し、標準的なアクティブラーニングを上回る汎化性能を向上させた。
• AndMal 2020データセットにおいて、K-Meansより24%の精度向上、MixMatchより3%の向上を達成した。