[论文解读] A Stable Nuclear Future? The Impact of Autonomous Systems and Artificial Intelligence

Michael C. Horowitz, Paul Scharre+1 more|arXiv (Cornell University)|Dec 11, 2019

Global Energy and Sustainability Research被引用 20

一句话总结

本文探讨了自主系统与人工智能（AI）可能对核稳定性造成的影响，重点关注指挥与控制、武器投送平台以及常规军事应用。文章认为，尽管AI与自主性可能减少事故并提升高压环境下的决策能力，但也加剧了误判、意外升级以及二次打击能力脆弱性的风险，尤其是在无人核系统中部署或在高强度作战中面临时间压力时。

ABSTRACT

The potential for advances in information-age technologies to undermine nuclear deterrence and influence the potential for nuclear escalation represents a critical question for international politics. One challenge is that uncertainty about the trajectory of technologies such as autonomous systems and artificial intelligence (AI) makes assessments difficult. This paper evaluates the relative impact of autonomous systems and artificial intelligence in three areas: nuclear command and control, nuclear delivery platforms and vehicles, and conventional applications of autonomous systems with consequences for nuclear stability. We argue that countries may be more likely to use risky forms of autonomy when they fear that their second-strike capabilities will be undermined. Additionally, the potential deployment of uninhabited, autonomous nuclear delivery platforms and vehicles could raise the prospect for accidents and miscalculation. Conventional military applications of autonomous systems could simultaneously influence nuclear force postures and first-strike stability in previously unanticipated ways. In particular, the need to fight at machine speed and the cognitive risk introduced by automation bias could increase the risk of unintended escalation. Finally, used properly, there should be many applications of more autonomous systems in nuclear operations that can increase reliability, reduce the risk of accidents, and buy more time for decision-makers in a crisis.

研究动机与目标

• 评估人工智能与自主系统的发展可能如何破坏核威慑稳定性，并增加意外核升级的风险。
• 考察在危机稳定性与二次打击可信度方面，部署自主核投送平台与载具的影响。
• 评估常规军事领域中自主性的应用——尤其是以机器速度运行——如何间接影响核稳定性与首次打击稳定性。
• 识别在何种条件下，核作战中自主性的提升可增强可靠性、减少事故，并改善危机中的决策时间。
• 探讨自动化偏见与认知风险在高压环境下加速决策过程中的作用，及其如何增加误判的可能性。

提出的方法

• 对三个领域进行对比分析：核指挥与控制、核投送平台以及自主系统在常规军事应用中的使用。
• 采用基于案例的推理方法，评估自主性可能在何种情境下稳定或破坏核威慑态势。
• 分析在高风险军事决策环境中，自动化偏见与时间压力带来的心理与操作风险。
• 评估国家在感知其二次打击能力受到威胁时，采用高风险自主性的战略激励。
• 建模自主系统整合到常规与核领域可能引发的意外升级风险。
• 评估自主系统在核作战中提升可靠性、减少人为错误的潜力，特别是在危机决策过程中。

实验结果

研究问题

• RQ1 自主核投送平台的部署在多大程度上会影响二次打击能力的稳定性？
• RQ2 常规军事领域中自主系统的应用在哪些方面可能间接破坏核稳定性？
• RQ3 自动化偏见在高强度军事行动中如何加速决策过程，其对升级风险有何影响？
• RQ4 在何种条件下，核指挥与控制中自主性的提升可改善危机稳定性并降低事故风险？
• RQ5 对技术脆弱性的认知如何影响国家在核系统中采用高风险自主形式的激励？

主要发现

• 当国家担心其二次打击能力受到威胁时，更可能采用高风险的自主性，从而增加破坏性行为的风险。
• 无人化、自主化的核投送平台部署会因人类监督减少和决策周期缩短，而增加事故与误判的风险。
• 常规军事领域中自主系统的应用可能以不可预见的方式影响核力量部署与首次打击稳定性，特别是当必须以机器速度运行时。
• 在高压环境下，自动化偏见与认知捷径可能增加意外升级的可能性，尤其是在必须快速决策的情况下。
• 若实施得当，自主系统可提升可靠性、减少人为错误，并为决策者在危机中争取更多时间，从而增强稳定性。
• 将人工智能与自主性整合到核作战中具有双重效应：若管理得当，可提升安全性和韧性；但若管理不善，则可能带来重大误判与不稳定性风险。