[論文レビュー] Zero-shot learning approach to adaptive Cybersecurity using Explainable AI

Dattaraj Jagdish Rao, Shraddha Mane|arXiv (Cornell University)|Jun 21, 2021

Anomaly Detection Techniques and Applications参考文献 9被引用数 13

ひとこと要約

本論文は、事前学習データが不要なゼロショット学習フレームワークを提案し、説明可能なAI（XAI）を用いて、新たなサイバー攻撃を自動的にラベル付けする。ゲーム理論に基づく特徴量の寄与度を用いてモデル予測を説明することで、異常なネットワークフローにおける影響力のある特徴量を特定し、攻撃タイプにマッピングする。これにより、IPスイープやサービス拒否攻撃などのゼロデイ攻撃について、解釈可能でアナリストフレンドリーなラベルを有効に自動ラベリングすることが可能である。

ABSTRACT

Cybersecurity is a domain where there is constant change in patterns of attack, and we need ways to make our Cybersecurity systems more adaptive to handle new attacks and categorize for appropriate action. We present a novel approach to handle the alarm flooding problem faced by Cybersecurity systems like security information and event management (SIEM) and intrusion detection (IDS). We apply a zero-shot learning method to machine learning (ML) by leveraging explanations for predictions of anomalies generated by a ML model. This approach has huge potential to auto detect alarm labels generated in SIEM and associate them with specific attack types. In this approach, without any prior knowledge of attack, we try to identify it, decipher the features that contribute to classification and try to bucketize the attack in a specific category - using explainable AI. Explanations give us measurable factors as to what features influence the prediction of a cyber-attack and to what degree. These explanations generated based on game-theory are used to allocate credit to specific features based on their influence on a specific prediction. Using this allocation of credit, we propose a novel zero-shot approach to categorize novel attacks into specific new classes based on feature influence. The resulting system demonstrated will get good at separating attack traffic from normal flow and auto-generate a label for attacks based on features that contribute to the attack. These auto-generated labels can be presented to SIEM analyst and are intuitive enough to figure out the nature of attack. We apply this approach to a network flow dataset and demonstrate results for specific attack types like ip sweep, denial of service, remote to local, etc. Paper was presented at the first Conference on Deployable AI at IIT-Madras in June 2021.

研究の動機と目的

• SIEMおよびIDSシステムにおけるアラートの洪水問題を解消し、新規攻撃の自動ラベリングを可能にする。
• 新規攻撃タイプに対応するためのラベル付きデータを必要とする従来の機械学習モデルの限界を克服する。
• 説明可能なAIを用いてモデル予測を解釈することで、これまでにない攻撃を分類する手法を開発する。
• セキュリティアナリストが直感的で自動生成された攻撃ラベルを迅速に理解・対応できるようにする。
• ネットワークフロー・データに対する特徴量の影響分析を用いたゼロショット攻撃分類の実現可能性を実証する。

提案手法

• ゲーム理論のシャープレー値を用いて、各異常予測における特徴量の重要度スコアを計算する。
• これらの説明可能性スコアを用いて、各ネットワークフロー特徴量が攻撃分類に与える寄与度を定量化する。
• 異常の最も影響力のある特徴量を、意味的類似性またはクラスタリングを用いて既知の攻撃パターンにマッピングする。
• 特徴量の影響プロファイルに基づき、未知の攻撃を事前に定義された攻撃クラスに割り当てるゼロショット分類システムを構築する。
• 通常のネットワークトラフィックでベースとなる異常検知モデルを学習し、その後XAIを適用して未確認攻撃の説明と分類を実施する。
• SIEMワークフローに統合し、アナリストのトライエージに適した人間が読みやすいラベルを自動生成する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAIを用いることで、事前学習データがなくても、これまでにないサイバー攻撃を特定・ラベル付けできるか？
• RQ2 ゲーム理論に基づく特徴量の寄与度（シャープレー値）は、ネットワークフロー特徴量に基づいて、異なる種類のサイバー攻撃をどれほど効果的に区別できるか？
• RQ3 特定の特徴量が異常予測に与える影響を活用することで、ゼロショットの方法で新規攻撃を既知の攻撃カテゴリにマッピングできるか？
• RQ4 セキュリティアナリストがSIEM環境で、自動生成された攻撃ラベルをどれほど解釈可能で実行可能に理解できるか？
• RQ5 本手法は、IPスイープやDoSなどの一般的な攻撃タイプを対象とした実世界のネットワークフロー・データセットにおいて、どの程度のパフォーマンスを示すか？

主な発見

• 本システムは、説明可能なAIによる特徴量の寄与度情報のみを用いて、意味的で人間が読みやすいラベルを新規攻撃に対して自動生成することに成功した。
• シャープレー値を用いて導出された特徴量の重要度スコアは、攻撃タイプの意味的・行動的特徴を効果的に捉えている。
• 本手法により、IPスイープ、サービス拒否攻撃、リモートからローカルへのエクスプロイトなど、さまざまな攻撃タイプをネットワークフロー特性に基づき正確にゼロショット分類可能である。
• セキュリティアナリストは自動生成されたラベルを解釈することで、攻撃の性質を迅速に理解でき、対応時間を短縮できる。
• 誤検出を最小限に抑え、トライエージに適した文脈豊富なラベルを提供することで、アラートの過剰反応（アラートの洪水）を顕著に低減した。
• 第一回目のIIT-Madrasでの「展開可能AI会議」で実証されたように、本フレームワークは実世界での展開において実用的で実現可能であることが示された。