[論文レビュー] Artificial Intelligence and Arms Control

Paul Scharre, Megan Lamberth|arXiv (Cornell University)|Oct 22, 2022

Cybersecurity and Cyber Warfare Studies被引用数 4

ひとこと要約

この論文は、軍事的AIの世界的な禁止は現実的ではないが、軍事的有用性と社会的・政治的実現可能性の基準に従って、特定のAIを装備した兵器に対する標的型の軍縮が可能であると主張している。歴史的軍縮事例を基に、規制が成功する条件を同定し、殺傷能力を有する自律型兵器やその他の高リスクAIシステムを管理するための実行可能な政策提言を提示する。

ABSTRACT

Potential advancements in artificial intelligence (AI) could have profound implications for how countries research and develop weapons systems, and how militaries deploy those systems on the battlefield. The idea of AI-enabled military systems has motivated some activists to call for restrictions or bans on some weapon systems, while others have argued that AI may be too diffuse to control. This paper argues that while a ban on all military applications of AI is likely infeasible, there may be specific cases where arms control is possible. Throughout history, the international community has attempted to ban or regulate weapons or military systems for a variety of reasons. This paper analyzes both successes and failures and offers several criteria that seem to influence why arms control works in some cases and not others. We argue that success or failure depends on the desirability (i.e., a weapon's military value versus its perceived horribleness) and feasibility (i.e., sociopolitical factors that influence its success) of arms control. Based on these criteria, and the historical record of past attempts at arms control, we analyze the potential for AI arms control in the future and offer recommendations for what policymakers can do today.

研究の動機と目的

• 自律兵器に関する懸念が高まる中で、人工知能の軍事的応用に対する軍縮の可能性を評価すること。
• 過去の軍縮成功事例と失敗事例を分析し、規制効果に影響を与える主要な基準を同定すること。
• 特に殺傷能力を有する自律型兵器を含む、特定のAIを装備した兵器システムが、効果的に規制可能かどうかを評価すること。
• 歴史的事例と現在の技術トレンドに基づいて、政策立案者に実行可能な提言を提供すること。
• 将来のAIガバナンスフレームワークを形成するにあたり、軍事的有用性と倫理的・戦略的リスクのバランスをとること。

提案手法

• 軍事的有用性は高いが、倫理的または人道的懸念を伴う武器に焦点を当てた、過去の軍縮協定の比較的歴史的分析を実施する。
• 軍縮成功の2つの核心的基準を同定する：「ひどさ」（道徳的または人道的反発）と社会的・政治的実現可能性（政治的意志、検証能力）。
• これらの基準を、特に殺傷能力を有する自律型兵器システム（LAWS）を含む新興のAI軍事技術に適用し、規制可能性を評価する。
• AI軍縮措置への順守を監視・検証するための技術的、政治的、制度的課題を評価する。
• リスクが高く、軍事的必要性が低いシステムを優先する段階的アプローチを提言する。
• 化学兵器、集束爆弾、敵衛星兵器の事例研究を通じて、規制が成功または失敗する条件を説明する。

実験結果

リサーチクエスチョン

• RQ1 過去に軍縮が成功または失敗した条件は何か。AIに適用可能な教訓は何か。
• RQ2 兵器システムの「ひどさ」と軍事的有用性が、軍縮が成功する可能性にどのように影響するか。
• RQ3 AI兵器が規制可能かどうかを決定する社会的・政治的および技術的実現可能性要因は何か。
• RQ4 殺傷能力を有する自律型兵器のような、特定のAIを装備した軍事的システムは、国際的合意によって効果的に管理可能か。
• RQ5 各国が今日、責任ある軍事的AIの開発・運用を形作るために取れる政策的措置は何か。

主な発見

• 兵器システムが広く非人道的または倫理的に問題視されている場合、軍事的価値が高くても、軍縮はより成功しやすい。
• 規制の実現可能性は、政治的意志、検証メカニズム、および特定の兵器システムの定義と監視の能力に依存する。
• AIの軍事的応用は、防衛分野全体に広く分散しているため、すべての軍事的AIに対する世界的な禁止は実現可能性が低い。
• 殺傷能力を有する自律型兵器システム（LAWS）は、急速かつ制御不能な拡大の可能性を有するため、軍縮の優先対象となる。
• CWCやCCWのような歴史的事例は、国際的合意と実行可能な検証が整えば、軍縮が効果的である可能性を示している。
• 本論文は、明確なリスクを伴い、規制に最も適しているシステムから段階的に着手する、問題別に特化した段階的アプローチを提言する。