[論文レビュー] Human vs. Machine: Behavioral Differences Between Expert Humans and Language Models in Wargame Simulations

Max Lamparth, Anthony Corso+4 more|arXiv (Cornell University)|Mar 6, 2024

Multi-Agent Systems and Negotiation被引用数 4

ひとこと要約

本研究では、台湾紛争における危機のエスカレーションを模擬する米中対立シミュレーションにおいて、専門家による人的意思決定と大規模言語モデル（LLM）が模擬する反応を比較している。21の行動選択肢を用いたフレームワークを用いて、人間とLLMの反応に顕著な類似性が見られる一方で、特にLLMが会話の模擬を指示された場合に顕著な違いが生じ、攻撃性、行動選択、指示への感受性において体系的な差異が確認された。これは、人間の監視がなければ、高リスク戦略的助言にLLMに依存するリスクを浮き彫りにしている。

ABSTRACT

To some, the advent of artificial intelligence (AI) promises better decision-making and increased military effectiveness while reducing the influence of human error and emotions. However, there is still debate about how AI systems, especially large language models (LLMs) that can be applied to many tasks, behave compared to humans in high-stakes military decision-making scenarios with the potential for increased risks towards escalation. To test this potential and scrutinize the use of LLMs for such purposes, we use a new wargame experiment with 214 national security experts designed to examine crisis escalation in a fictional U.S.-China scenario and compare the behavior of human player teams to LLM-simulated team responses in separate simulations. Here, we find that the LLM-simulated responses can be more aggressive and significantly affected by changes in the scenario. We show a considerable high-level agreement in the LLM and human responses and significant quantitative and qualitative differences in individual actions and strategic tendencies. These differences depend on intrinsic biases in LLMs regarding the appropriate level of violence following strategic instructions, the choice of LLM, and whether the LLMs are tasked to decide for a team of players directly or first to simulate dialog between a team of players. When simulating the dialog, the discussions lack quality and maintain a farcical harmony. The LLM simulations cannot account for human player characteristics, showing no significant difference even for extreme traits, such as "pacifist" or "aggressive sociopath." When probing behavioral consistency across individual moves of the simulation, the tested LLMs deviated from each other but generally showed somewhat consistent behavior. Our results motivate policymakers to be cautious before granting autonomy or following AI-based strategy recommendations.

研究の動機と目的

• 高リスク米中危機シミュレーションにおける専門家的人間プレイヤーの反応と、LLMが模擬する反応の類似度を評価すること。
• LLMのプロンプトの違い（例：会話の模擬 vs. 直接的な行動選択）が戦略的行動と予測可能性に与える影響を調査すること。
• LLMが背景的属性や個人的バイアスを含む、人間の心理的・戦略的好みをどれほど正確に再現できるかを評価すること。
• 危機のエスカレーション状況において、LLMと人間の行動に体系的な乖離が生じる要因、特に攻撃性と戦闘規則への感受性について特定すること。
• 人間による厳密な検証が行われないまま、LLMを自律的軍事意思決定に導入する際のリスクについて政策立案者に示唆すること。

提案手法

• 2026年の架空の米中危機を想定し、台湾海峡周辺で発生する米国国家安全保障会議の意思決定を模擬する2手の戦略的シミュレーションを、107名の国家安全保障専門家を対象に実施した。
• GPT-4を含むLLMを用い、2つのプロンプト条件で反応を模擬した：(1) プレイヤー間の役割演技的会話の模擬、(2) プレイヤー役ごとの行動リストを直接指示する。
• 21の可能な行動の反応ベクトルを収集・比較し、人間とLLMの反応の分布的類似性を可視化するために線形判別分析を用いた。
• 人的生成反応とLLM生成反応の間の推論の質的差異、エスカレーション傾向、戦略的フレーミングの違いを分析した。
• LLMの入力指示が行動結果に与える影響、特に攻撃性と行動数の観点から評価した。
• LLMがプレイヤー固有の属性（背景、個人的好み、機関的役割など）を考慮できないことの影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 LLMが模擬する反応は、米中危機シミュレーションにおける専門家的人間の反応と、定量的・定性的にどの程度類似しているか？
• RQ2 プロンプト形式（会話の模擬 vs. 直接的な行動選択）がLLMの行動と戦略的結果にどの程度影響を与えるか？
• RQ3 LLMは、背景に特化した意思決定を含め、人間の心理的・戦略的好みを正確に再現できるか？
• RQ4 人間とLLMプレイヤーの間で、特に戦闘規則への感受性に関して、エスカレーション傾向に体系的な差異が生じるか？
• RQ5 LLMアーキテクチャや指示設計の違いが、AIが生成する戦略的助言の信頼性と安全性にどのように影響を与えるか？

主な発見

• LLMが模擬した反応は、人間の反応と顕著な類似性を示し、シミュレーションにおける21の可能な行動のうち約半数で一致した。
• プレイヤー間の会話の模擬を指示された場合、LLMの反応は意味のある相互作用を示さず、動的な交渉や戦略的適応を反映しなかった。
• 直接行動を提示するよう指示された場合、LLMの反応は攻撃性が増し、行動選択数も増加した。
• LLMはプレイヤーの背景的属性、個人的好み、機関的役割を一切考慮できず、一般化され、文脈に依存しない助言を生成した。
• 異なるLLMは攻撃性や意思決定パターンに差を示し、モデル選択とプロンプト設計の感受性が顕著に現れた。
• 行動選択の表面的類似性とは裏腹に、推論の質的差異やエスカレーションのフレーミングの違いから、LLMは高リスク状況において人間の戦略的意図を誤って表現する可能性があることが示された。