[論文レビュー] Federated Learning for Intrusion Detection in IoT Security: A Hybrid Ensemble Approach

Sayan Chatterjee, Manjesh K. Hanawal|arXiv (Cornell University)|Jun 25, 2021

Network Security and Intrusion Detection被引用数 4

ひとこと要約

本稿では、プライバシーを保護するためのフェデレーテッドラーニングを用いた、IoTセキュリティのためのハイブリッドアンサンブルイントラーシュッション検出システム（PHEC）を提案する。ノイズに強い変種（NT-PHEC）を併記し、ラベルノイズに対する耐性を向上させる。本手法はKNN、ランダムフォレスト、MLP分類器を重み付き損失関数で統合し、高いTPRと低いFPRを達成し、特に中央集権的およびフェデレーテッド環境下でのノイズのあるデータにおいて、最先端のモデルを上回る性能を発揮する。

ABSTRACT

Critical role of Internet of Things (IoT) in various domains like smart city, healthcare, supply chain and transportation has made them the target of malicious attacks. Past works in this area focused on centralized Intrusion Detection System (IDS), assuming the existence of a central entity to perform data analysis and identify threats. However, such IDS may not always be feasible, mainly due to spread of data across multiple sources and gathering at central node can be costly. Also, the earlier works primarily focused on improving True Positive Rate (TPR) and ignored the False Positive Rate (FPR), which is also essential to avoid unnecessary downtime of the systems. In this paper, we first present an architecture for IDS based on hybrid ensemble model, named PHEC, which gives improved performance compared to state-of-the-art architectures. We then adapt this model to a federated learning framework that performs local training and aggregates only the model parameters. Next, we propose Noise-Tolerant PHEC in centralized and federated settings to address the label-noise problem. The proposed idea uses classifiers using weighted convex surrogate loss functions. Natural robustness of KNN classifier towards noisy data is also used in the proposed architecture. Experimental results on four benchmark datasets drawn from various security attacks show that our model achieves high TPR while keeping FPR low on noisy and clean data. Further, they also demonstrate that the hybrid ensemble models achieve performance in federated settings close to that of the centralized settings.

研究の動機と目的

• 中央集権型イントラーシュッション検出システム（IDS）の限界、特にデータ集約に起因する通信コストの高さとプライバシー懸念を解決する。
• 調整可能なしきい値γを用いて、高い真正陽性率（TPR）と低い偽陽性率（FPR）を両立できるハイブリッドアンサンブルモデル（PHEC）を構築する。
• PHECをフェデレーテッドラーニングフレームワークに適応させ、データプライバシーを保ちながら分散学習を可能にする。
• ラベルノイズの問題に取り組むために、重み付き凸サロゲート損失関数とKNNの耐性を活用したノイズ耐性PHEC（NT-PHEC）を導入する。
• 中央集権的およびフェデレーテッド環境下で、清澄およびノイズ混在の両条件において、PHECおよびNT-PHECの性能をベンチマークIoTデータセットを用いて評価する。

提案手法

• KNNとランダムフォレストの出力を重み付き平均で統合する確率的ハイブリッドアンサンブル分類器（PHEC）を設計し、最終予測は調整可能なしきい値γに基づく。
• PHECをフェデレーテッドラーニングに適応させるために、微分不能なモデル（KNN、RF）をローカル学習とパラメータ共有に用いる多層パーセプトロン（MLP）に置き換える。
• 中央集権的およびフェデレーテッド環境下で、誤標識データへの感受性を低減するために、重み付き凸サロゲート損失関数を用いたノイズ耐性PHEC（NT-PHEC）を導入する。
• NT-PHECにおいて、KNN分類器にK ≥ 5の制約を課すことで、ノイズ混在データに対する自然な耐性を活用し、誤標識に過剰適合を抑える。
• フェデレーテッドラーニングにおいて、モデルパラメータをFedAvgで集約し、共有されたMLP重みにより勾配ベース最適化を可能にする。
• フェデレーテッド環境下で複雑性を低減するため、NT-PHECには単層MLPを用いるが、PHECは清澄データにおけるパターン抽出をよりよく行うために、複数の隠れ層を持つ深層MLPを採用する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドアンサンブルモデルは、IoTイントラーシュッション検出において、高いTPRと低いFPRの良好なトレードオフを達成可能であり、1つのハイパーパラメータで調整可能か？
• RQ2 フェデレーテッドラーニングにおけるPHECの性能は、中央集権的環境下の同等モデルと比較して、検出精度および耐性面で優れているか？
• RQ3 従来のアンサンブルモデルでは、IoT IDSにおけるラベルノイズが性能にどの程度悪影響を及ぼすか？ そして、その影響は効果的に軽減可能か？
• RQ4 提案されたノイズ耐性PHEC（NT-PHEC）は、中央集権的およびフェデレーテッド環境下で、標準PHECと比較して、ノイズ混在データセットにおける検出精度を顕著に向上させるか？
• RQ5 重み付き凸サロゲート損失関数とKNNの耐性を組み合わせることで、フェデレーテッドIoT環境における現実のラベルノイズ条件下でも、モデルの一般化性能が向上するか？

主な発見

• 清澄データでは、中央集権的およびフェデレーテッド環境下でPHECがNT-PHECを上回り、中央集権的環境では平均2.1%、フェデレーテッド環境では4%の精度差を示す。これはPHECの優れたモデルの柔軟性とアンサンブル性能による。
• ノイズ混在データでは、NT-PHECがPHECを顕著に上回り、中央集権的環境下で4つのデータセット全体で平均8.53%の精度向上を達成し、強いノイズ耐性を示す。
• フェデレーテッド環境下では、ノイズ混在データにおいてNT-PHECがPHECを平均2.67%上回る精度向上を達成し、分散型かつノイズ混在環境下での有効性を確認した。
• DS2OSデータセット（20%ノイズ）では、フェデレーテッド環境下でNT-PHECが95.13%の精度を達成したのに対し、PHECは88.46%であった。これは高濃度ノイズ下でも高い耐性を示す。
• ガスパイプラインデータセット（20%ノイズ）では、中央集権的環境下でNT-PHECが92.74%、フェデレーテッド環境下で89.98%の精度を達成し、両環境での一貫性の高さを示した。
• 本稿で提案するNT-PHECモデルは、レアな攻撃が代表されない状況でも高い検出性能を維持する。フェデレーテッド平均化がノイズ耐性の高い学習により安定化され、一般的な攻撃タイプに偏るバイアスが低減される。