[論文レビュー] SecQA: A Concise Question-Answering Dataset for Evaluating Large Language Models in Computer Security

Zefang Liu|arXiv (Cornell University)|Dec 26, 2023

Software Engineering Research被引用数 6

ひとこと要約

本稿では、GPT-4を用いて教科書『Computer Systems Security: Planning for Success』から抽出した内容に基づき、コンピュータセキュリティ分野の専門的評価を目的とした複数選択式の質疑応答データセットであるSecQAを紹介する。このデータセットは、基礎的知識を扱うv1と、高度で洗練されたトピックを扱うv2の2バージョンに分かれている。主な結果として、GPT-4は5ショット設定下でSecQA v1でほぼ完璧な正確性（100％）を達成した一方、Llama-2 や Vicuna といったオープンソースモデルは顕著に低いパフォーマンスを示し、分野特化型のファインチューニングの必要性と、モデルの限界を特定するためのベンチマークとしての本データセットの価値が浮き彫りになった。

ABSTRACT

In this paper, we introduce SecQA, a novel dataset tailored for evaluating the performance of Large Language Models (LLMs) in the domain of computer security. Utilizing multiple-choice questions generated by GPT-4 based on the "Computer Systems Security: Planning for Success" textbook, SecQA aims to assess LLMs' understanding and application of security principles. We detail the structure and intent of SecQA, which includes two versions of increasing complexity, to provide a concise evaluation across various difficulty levels. Additionally, we present an extensive evaluation of prominent LLMs, including GPT-3.5-Turbo, GPT-4, Llama-2, Vicuna, Mistral, and Zephyr models, using both 0-shot and 5-shot learning settings. Our results, encapsulated in the SecQA v1 and v2 datasets, highlight the varying capabilities and limitations of these models in the computer security context. This study not only offers insights into the current state of LLMs in understanding security-related content but also establishes SecQA as a benchmark for future advancements in this critical research area.

研究の動機と目的

• LLMのコンピュータセキュリティ分野における評価に特化したベンチマークの不足、特に洗練された分野特化知識の評価が不十分であるという問題に対処する。
• 現実のセキュリティ原則と課題を反映した、簡潔でありながら包括的なデータセットを構築する。
• 閉鎖型（GPT-3.5-Turbo、GPT-4）およびオープンソース型（Llama-2、Vicuna、Mistral、Zephyr）の主要LLMがセキュリティ関連の推論タスクにおいていかに性能を発揮するかを評価する。
• 今後の研究を支援する再現可能で体系的なベンチマークを確立し、セキュリティ応用分野におけるLLMの評価と改善を可能にする。
• 特に複雑なセキュリティトピックにおいて顕著なパフォーマンスギャップを示すオープンソースモデルの限界を特定し、今後の分野特化型モデル開発を導く。

提案手法

• 教科書『Computer Systems Security: Planning for Success』の内容に基づき、GPT-4を用いて複数選択式の質問を生成することで、分野の正確性と関連性を保証した。
• データセットを2つのバージョンに構造化した：SecQA v1は基礎的セキュリティ原則を対象とし、SecQA v2はより複雑で洗練されたトピックを対象とした。
• ファインチューニングを行わない状態で、ゼロショットおよびフェイワショット（5ショット）の推論設定を用いてLLMを評価し、実世界の展開シナリオを模倣した。
• モデル間での一貫性を確保し、再現性を高めるために、言語モデル評価ハーネスフレームワークを採用した。
• GPT-3.5-Turbo、GPT-4、Llama-2、Vicuna、Mistral、Zephyr といった多様なLLMを対象に選定し、モデルアーキテクチャーやサイズの違いによるパフォーマンスを評価した。
• 正確性を主な指標として用い、セキュリティ特化コンテンツにおける理解力と推論能力の直接比較を可能にした。

実験結果

リサーチクエスチョン

• RQ1 主要なLLMは、複数選択式の質問を通じて、基礎的コンピュータセキュリティ原則をどの程度理解し、適用できるか？
• RQ2 SecQA v2に含まれるより複雑で洗練されたセキュリティトピックに対して、LLMはSecQA v1の単純なトピックと比較してどの程度一般化できるか？
• RQ3 フェイワショットプロンプティング（5ショット）は、ゼロショット推論と比較して、セキュリティ推論タスクにおけるLLMのパフォーマンスをどの程度向上させるか？
• RQ4 閉鎖型とオープンソース型のLLMの間で、コンピュータセキュリティ知識の文脈において、どの程度のパフォーマンス格差が生じるか？
• RQ5 SecQAは、セキュリティが重要な分野におけるLLMの今後の開発を評価・支援するための信頼性がありスケーラブルなベンチマークとして機能できるか？

主な発見

• GPT-4は5ショット設定下でSecQA v1で100％の正確性を達成し、基礎的セキュリティ概念に対する強い理解を示した。
• より複雑で洗練された質問を含むSecQA v2においても、GPT-4はゼロショットおよび5ショットの両設定で98.0％の正確性を達成した。これは高いロバストネスを示唆するが、高レベルのモデルにとってのデータセットの難易度が低い可能性を示唆する懸念も生じた。
• オープンソースモデルのLlama-2-13B-Chatは、SecQA v1においてゼロショットで49.1％から5ショットで89.1％へと顕著なパフォーマンス向上を示した。これはフェイワショットでの適応力は高いが、依然として基礎的知識の理解に限界があることを示している。
• Vicuna-7B-v1.5は5ショット設定下でSecQA v1でわずか30.9％の正確性にとどまり、強力な一般言語能力を有するにもかかわらず、セキュリティトピックにおける推論能力の著しい制限が明らかになった。
• Mistral-7B-Instruct-v0.2とZephyr-7B-Betaは両バージョンで優れたパフォーマンスを示し、Zephyr-7B-Betaは5ショット設定下でSecQA v1で92.7％の正確性を達成した。これは、小規模なオープンソースモデルにおいてもフェイワショット一般化能力が強いことを示唆している。
• GPT-4とオープンソースモデルとの間でSecQA v2において顕著なパフォーマンスギャップが確認されたことから、分野特化型のファインチューニングの必要性と、セキュリティ特化推論のためのベンチマークの重要性が浮き彫りになった。