[论文解读] Australia's Approach to AI Governance in Security and Defence

S. Kate Devitt, Damian Copeland|arXiv (Cornell University)|Nov 23, 2021

Ethics and Social Impacts of AI被引用 6

一句话总结

本文概述了澳大利亚在国家安全与国防领域治理人工智能的战略方法，强调将伦理与法律整合到军事人工智能采办过程中。该文提出了一套基于国防产业利益相关方意见的政策框架，利用《国防领域伦理人工智能方法》（MEAID）在能力发展全生命周期中嵌入法律与伦理风险缓解机制，使澳大利亚成为负责任军事人工智能治理的领导者。

ABSTRACT

Australia is a leading AI nation with strong allies and partnerships. Australia has prioritised the development of robotics, AI, and autonomous systems to develop sovereign capability for the military. Australia commits to Article 36 reviews of all new means and methods of warfare to ensure weapons and weapons systems are operated within acceptable systems of control. Additionally, Australia has undergone significant reviews of the risks of AI to human rights and within intelligence organisations and has committed to producing ethics guidelines and frameworks in Security and Defence. Australia is committed to OECD's values-based principles for the responsible stewardship of trustworthy AI as well as adopting a set of National AI ethics principles. While Australia has not adopted an AI governance framework specifically for the Australian Defence Organisation (ADO); Defence Science and Technology Group (DSTG) has published 'A Method for Ethical AI in Defence' (MEAID) technical report which includes a framework and pragmatic tools for managing ethical and legal risks for military applications of AI. Australia can play a leadership role by integrating legal and ethical considerations into its ADO AI capability acquisition process. This requires a policy framework that defines its legal and ethical requirements, is informed by Defence industry stakeholders, and provides a practical methodology to integrate legal and ethical risk mitigation strategies into the acquisition process.

研究动机与目标

• 分析澳大利亚当前在安全与国防领域的人工治理格局，识别伦理整合的缺口与机遇。
• 审视澳大利亚在遵守国际标准（包括经合组织原则和国家人工智能伦理框架）方面的表现。
• 评估国防科学与技术集团（DSTG）在开发军事应用中伦理人工智能实用工具方面的作用。
• 提出一个结构化的政策框架，将法律与伦理要求嵌入澳大利亚国防组织的人工智能采办流程。
• 通过制度化的治理机制，使澳大利亚在全球范围内成为可信、基于价值观的军事人工智能治理领导者。

提出的方法

• 全面审查澳大利亚国家及国防特定的人工智能治理举措，包括《第36条审查》和人权影响评估。
• 分析《国防领域伦理人工智能方法》（MEAID）技术报告作为识别和缓解军事人工智能系统中伦理与法律风险的核心治理工具。
• 绘制澳大利亚与国际标准（如经合组织基于价值观的人工智能原则和《特定常规武器公约》（CCW）框架）的对齐情况。
• 提出一个将法律与伦理要求整合到人工智能能力采办生命周期的政策框架，基于国防产业利益相关方的反馈。
• 开发一种实用的、分步的方法论，以在人工智能系统开发与采购的每个阶段嵌入风险缓解策略。
• 通过案例分析与政策综合，展示伦理考量如何在国防采办流程中实现可操作化。

实验结果

研究问题

• RQ1 澳大利亚当前国防领域的人工智能治理框架在多大程度上与国际规范和伦理标准保持一致？
• RQ2 澳大利亚国防组织内部存在哪些机制，以确保对军事人工智能系统的法律与伦理监督？
• RQ3 MEAID框架在国防人工智能项目中实现伦理与法律风险缓解的实效性如何？
• RQ4 为将伦理与法律要求嵌入澳大利亚国防组织的人工智能采办流程，需要哪些政策与制度性变革？
• RQ5 澳大利亚在全球范围内可如何成为负责任军事人工智能治理的典范？

主要发现

• 澳大利亚尚未为澳大利亚国防组织制定独立的人工智能治理框架，但已开发《MEAID技术报告》作为国防领域伦理人工智能的基础工具。
• MEAID框架为识别和缓解军事人工智能应用中的法律与伦理风险，提供了一套结构化且实用的方法论。
• 澳大利亚对《第36条审查》的承诺确保了新武器系统（包括人工智能赋能的系统）在国际法合规性方面接受法律审查。
• 澳大利亚与经合组织的基于价值观的人工智能原则保持一致，并采纳了国家人工智能伦理原则，强化了其对负责任创新的承诺。
• 尽管伦理与法律基础坚实，但国防采办中缺乏正式且一体化的人工智能治理政策框架，仍是主要缺口。
• 本文结论认为，澳大利亚可通过基于利益相关方反馈的政策设计，将伦理与法律要求制度化地嵌入其国防采办流程，从而在全球范围内引领军事人工智能治理。