[論文レビュー] Explaining Tree Model Decisions in Natural Language for Network Intrusion Detection

Noah Ziems, Gang Liu+2 more|arXiv (Cornell University)|Oct 30, 2023

Network Security and Intrusion Detection被引用数 6

ひとこと要約

本稿では、意思決定木に基づくネットワークインシデント検出（NID）システムの解釈可能性を、非専門家にも理解可能な自然言語説明として提供するための手法である Large Language Model Decision Tree Explanations（LLM-DTE）を提案する。LLM-DTEは人間評価においてルールベースの説明を著しく上回り、クイズスコアが39.5%向上し、読みやすさ、質、背景知識の活用の観点でも優れた評価を得た。

ABSTRACT

Network intrusion detection (NID) systems which leverage machine learning have been shown to have strong performance in practice when used to detect malicious network traffic. Decision trees in particular offer a strong balance between performance and simplicity, but require users of NID systems to have background knowledge in machine learning to interpret. In addition, they are unable to provide additional outside information as to why certain features may be important for classification. In this work, we explore the use of large language models (LLMs) to provide explanations and additional background knowledge for decision tree NID systems. Further, we introduce a new human evaluation framework for decision tree explanations, which leverages automatically generated quiz questions that measure human evaluators' understanding of decision tree inference. Finally, we show LLM generated decision tree explanations correlate highly with human ratings of readability, quality, and use of background knowledge while simultaneously providing better understanding of decision boundaries.

研究の動機と目的

• 機械学習の専門知識のないユーザーが意思決定木ベースのネットワークインシデント検出（NID）システムを理解できるようにする課題に対処すること。
• 単なるルール抽出を越えて、特徴量の重要性や意思決定境界に関する背景知識を含む自然言語説明を生成すること。
• 自動生成された反事後クイズ質問を用いて、説明の質を評価する新しい人間評価フレームワークを開発すること。
• LLMが生成する説明が、従来のルールベースの説明と比較して、NID文脈においてユーザーの理解をどのように向上させるかを評価すること。

提案手法

• ネットワークトラフィックデータを用いてトレーニングされた意思決定木モデルを構築し、トラフィックを健全または悪意あるものに分類する。
• 与えられた入力に対して意思決定木のパスおよび構造的情報を抽出し、意思決定経路を追跡する。
• タスクの説明、特徴量の定義、木構造、ノードの閾値、クラスの分布、入力特徴量の値を含む、大規模言語モデル（LLM）用のプロンプトを設計する。
• LLMに、単純で技術的でない言語を用いて、意思決定木が入力を健全または悪意あるものと分類した理由を自然言語で説明するように指示する。
• ルールベースのテンプレートに基づいて、反事後クイズ質問を自動生成し、人間評価者の説明理解度をテストする。
• 10名の参加者（半数は機械学習の背景、半数はセキュリティの背景）を対象に人間評価を実施し、LLM-DTEとルールベースの説明を、クイズ成績および定性的評価の観点から比較する。

Figure 1: The overall framework for our proposed approach (LLM-DTE). Given network traffic data, a decision tree evaluates the data and classifies it as either Benign or Threat . Path and structure data from the decision tree are then provided to a large language model to generate an explanation. At

実験結果

リサーチクエスチョン

• RQ1 LLMが生成する自然言語説明は、ルールベースの説明と比較して、意思決定木ベースのネットワークインシデント検出意思決定の理解を向上させるか？
• RQ2 LLMが生成する説明は、特徴量の関連性や意思決定境界に関する背景知識をどの程度組み込んでいるか？
• RQ3 クイズベースの人的評価フレームワークは、意思決定木の説明の質を測定するためにどの程度効果的か？
• RQ4 LLMが生成する説明は、ルールベースの説明と比較して、読みやすさ、質、背景知識の活用性において優れているか？

主な発見

• LLM-DTEの説明は平均17.3／25のクイズスコアを達成し、ルールベースの説明（12.4／25）と比較して39.5％の改善を示した。
• 人間評価者は、LLM-DTEの説明をルールベースの説明よりも15％の頻度で「非常に読みやすい」と評価した。LLM-DTEでは42％の説明が「高読みやすさ」と評価されたのに対し、ルールベースでは30％であった。
• LLM-DTEの説明は52％の頻度で「高品質」と評価されたのに対し、ルールベースでは30％であった。これは、認識される品質のほぼ2倍の向上を示している。
• LLM-DTEの説明は52％の頻度で「背景知識の活用が顕著」と評価されたのに対し、ルールベースでは30％であった。これは、文脈的関連性の認識が70％相対的に向上したことを示している。
• 自動生成されたクイズ質問を用いた人的評価フレームワークは、定性的な好みと強い相関を示し、説明の有効性を評価する目的で有効であることが裏付けられた。
• 性能の向上にもかかわらず、LLM-DTEの生成はルールベースの方法よりも遅く、コストも高くなる。また、意思決定木の深さが増すと、より長い入力プロンプトのため、説明の品質が低下する傾向がある。