[論文レビュー] Risks of Practicing Large Language Models in Smart Grid: Threat Modeling and Validation

Jiangnan Li, Yingyuan Yang+1 more|arXiv (Cornell University)|May 10, 2024

Smart Grid Security and Resilience被引用数 5

ひとこと要約

本論文はスマートグリッドにおけるLLMの2つの脅威モデルを分析—悪質データの注入とドメイン知識の抽出—をGPT-3.5とGPT-4を用いて検証し、攻撃者がスマートグリッドLLMアプリケーションから悪意あるデータを注入し、ドメイン知識を抽出できることを示す。

ABSTRACT

Large language models (LLMs) represent significant breakthroughs in artificial intelligence and hold potential for applications within smart grids. However, as demonstrated in previous literature, AI technologies are susceptible to various types of attacks. It is crucial to investigate and evaluate the risks associated with LLMs before deploying them in critical infrastructure like smart grids. In this paper, we systematically evaluated the risks of LLMs and identified two major types of attacks relevant to potential smart grid LLM applications, presenting the corresponding threat models. We validated these attacks using popular LLMs and real smart grid data. Our validation demonstrates that attackers are capable of injecting bad data and retrieving domain knowledge from LLMs employed in different smart grid applications.

研究の動機と目的

• LLMがスマートグリッドの文脈で従来のAIとどのように異なるかを評価し、LLM展開に特有のリスクタイプを特定する。
• スマートグリッドにおけるLLMのための2つの一般化脅威モデルを提案する：悪質データ注入とドメイン知識の抽出。
• 提案した脅威を人気のLLMと実データを用いた実験で検証する。
• 再現性とさらなる研究を促進するためにオープンソースのデータ、コード、評価結果を提供する。

提案手法

• スマートグリッド設定におけるLLMワークフローとプロンプトベースの相互作用を特徴付ける。
• 公開アクセスを介したLLMsによる悪質データ注入とドメイン特定プロンプトからのドメイン知識抽出という2つの脅威モデルを定義する。
• 実データセット（再生可能エネルギー事故報告とAMIデータ）を用いたGPT-3.5およびGPT-4での検証実験を設計・実施する。
• 悪意のある入力下で分類/検出タスクへの影響を測定するフェーズベースの攻撃シミュレーションを使用する。
• 通常の入力と注入時の入力の性能を標準指標（精度、適合率、再現率、F1）で比較する。
• 再現性のためにデータ、コード、結果をオープンソースリポジトリに公開する。

実験結果

リサーチクエスチョン

• RQ1 LLMはスマートグリッドのタスクに適用する際、従来のMLモデルと比較してどのような脆弱性を持つのか。
• RQ2 攻撃者は公開インターフェースを介してLLMベースのスマートグリッドアプリケーションに悪意のあるデータを注入し、性能を低下させることができるのか。
• RQ3 内部者や攻撃者は、ユーティリティデータを扱うLLMからドメイン知識（プロンプト）を抽出し、機密情報を暴露する可能性があるのか。
• RQ4 GPT-3.5とGPT-4は現実的なスマートグリッドシナリオの下で、これらの脅威ベクターに対して耐性を示すのか。
• RQ5 これらの実験を再現・拡張するために必要なオープンデータとツールは何か。

主な発見

結果	通常	注入-有	注入-無	注入-逆
GPT-3.5 Accuracy	89.1%	47.7%	52.2%	33.5%
GPT-3.5 Precision	87.8%	47.7%	0%	34%
GPT-3.5 Recall	89.6%	100%	0%	41.5%
GPT-3.5 F1	88.7%	64.6%	0%	37.4%
GPT-4 Accuracy	93.8%	48.9%	52.2%	43.4%
GPT-4 Precision	94%	48.3%	0%	45.4%
GPT-4 Recall	93.1%	100%	0%	91.1%
GPT-4 F1	93.5%	65.1%	0%	60.1%

• 悪質データが注入されるとLLMベースの事故検知が著しく低下する可能性がある（例：GPT-3.5では逆注入時に正解率が89.1%から33.5%に低下）。
• GPT-4も悪質データ注入に対して同様の脆弱性を示し、逆注入時の正解率が43.4%に低下。
• 悪質データ注入下では、いくつかのケースで適合率と再現率が劇的に低下し、出力操作リスクを示す。
• ドメイン知識抽出は、巧妙なプロンプトを使用するとGPT-3.5とGPT-4が集約されたドメイン情報を開示する可能性があり、機密性リスクを示す。
• 通常入力シナリオでは高い性能を示すが、巧妙に設計された入力によりデータ漏洩や誤解を招く出力が生じ得る。
• 著者はさらなる研究を促進するためにオープンソースのデータ、コード、評価結果を提供している。