[论文解读] Artificial Intelligence and Arms Control

Paul Scharre, Megan Lamberth|arXiv (Cornell University)|Oct 22, 2022

Cybersecurity and Cyber Warfare Studies被引用 4

一句话总结

本文认为，尽管全面禁止军事人工智能不切实际，但在军事必要性与社会政治可行性双重标准的指导下，针对特定人工智能武器的定向军控是可行的。文章借鉴历史军控案例，识别出军控成功的关键条件，并为监管致命性自主武器及其他高风险人工智能系统提出可操作的政策建议。

ABSTRACT

Potential advancements in artificial intelligence (AI) could have profound implications for how countries research and develop weapons systems, and how militaries deploy those systems on the battlefield. The idea of AI-enabled military systems has motivated some activists to call for restrictions or bans on some weapon systems, while others have argued that AI may be too diffuse to control. This paper argues that while a ban on all military applications of AI is likely infeasible, there may be specific cases where arms control is possible. Throughout history, the international community has attempted to ban or regulate weapons or military systems for a variety of reasons. This paper analyzes both successes and failures and offers several criteria that seem to influence why arms control works in some cases and not others. We argue that success or failure depends on the desirability (i.e., a weapon's military value versus its perceived horribleness) and feasibility (i.e., sociopolitical factors that influence its success) of arms control. Based on these criteria, and the historical record of past attempts at arms control, we analyze the potential for AI arms control in the future and offer recommendations for what policymakers can do today.

研究动机与目标

• 评估在自主武器日益引发关注的背景下，对人工智能军事应用实施军控的可行性。
• 分析历史军控的成功与失败案例，以识别影响监管有效性的关键标准。
• 评估特定人工智能赋能武器系统（尤其是致命性自主武器）是否可被有效监管。
• 为政策制定者提供基于历史先例与当前技术趋势的可操作建议。
• 在军事效用与伦理及战略风险之间取得平衡，以构建未来人工智能治理框架。

提出的方法

• 对过去军控协议开展比较历史分析，重点关注具有高军事效用但存在显著伦理或人道主义关切的武器。
• 识别军控成功的两个核心标准：感知到的‘恐怖性’（道德或人道主义反对）与社会政治可行性（政治意愿、核查能力）。
• 将上述标准应用于新兴的军事人工智能技术，特别是致命性自主武器系统（LAWS），以评估其监管潜力。
• 评估监测和核查人工智能军控措施合规性的技术、政治与制度挑战。
• 提出分层军控方法，优先针对高风险且军事必要性低的系统。
• 通过化学武器、集束弹药和反卫星武器的案例研究，说明军控成功或失败的条件。

实验结果

研究问题

• RQ1 过去军控在何种条件下成功或失败？可从中汲取哪些适用于人工智能的教训？
• RQ2 武器系统的感知‘恐怖性’与军事效用如何影响军控成功的可能性？
• RQ3 决定人工智能武器能否被监管的社会政治与技术可行性因素有哪些？
• RQ4 特定人工智能赋能的军事系统（如致命性自主武器）能否通过国际协议得到有效治理？
• RQ5 各国今天可采取哪些政策行动，以引导军事人工智能的负责任研发与部署？

主要发现

• 当一种武器系统被广泛视为不人道或存在伦理问题时，即使其具有军事价值，军控更有可能成功。
• 控制的可行性取决于政治意愿、核查机制，以及对特定系统定义与监控的能力。
• 全球禁止所有军事人工智能的禁令极不可能成功，因为该技术在国防领域的应用广泛且分散。
• 致命性自主武器系统（LAWS）因存在快速、不可控升级的潜在风险，是军控的高优先级目标。
• 历史先例（如《禁止化学武器公约》CWC与《特定常规武器公约》CCW）表明，当国际社会达成共识并具备可执行的核查机制时，军控可以有效。
• 本文建议采取分阶段、议题特定的军控路径，优先针对风险最明确且最易监管的系统。