[논문 리뷰] Australia's Approach to AI Governance in Security and Defence

S. Kate Devitt, Damian Copeland|arXiv (Cornell University)|2021. 11. 23.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 호주가 국방 및 안보 분야에서 인공지능(AI)을 규제하기 위한 전략적 접근 방식을 서술하며, 군사적 AI 조달 과정에 윤리적 및 법적 요건을 통합하는 데 중점을 둡니다. 이는 방위 산업 이해관계자들의 인사이트를 반영한 정책 프레임워크를 제안하며, '국방 분야에서의 윤리적 AI를 위한 방법론'(MEAID)을 활용해 능력 개발 생애주기 전반에 걸쳐 법적 및 윤리적 리스크 완화를 통합합니다. 이는 호주가 책임감 있는 군사적 AI 거버넌스 분야에서 선도적 위치를 차지하고 있음을 시사합니다.

ABSTRACT

Australia is a leading AI nation with strong allies and partnerships. Australia has prioritised the development of robotics, AI, and autonomous systems to develop sovereign capability for the military. Australia commits to Article 36 reviews of all new means and methods of warfare to ensure weapons and weapons systems are operated within acceptable systems of control. Additionally, Australia has undergone significant reviews of the risks of AI to human rights and within intelligence organisations and has committed to producing ethics guidelines and frameworks in Security and Defence. Australia is committed to OECD's values-based principles for the responsible stewardship of trustworthy AI as well as adopting a set of National AI ethics principles. While Australia has not adopted an AI governance framework specifically for the Australian Defence Organisation (ADO); Defence Science and Technology Group (DSTG) has published 'A Method for Ethical AI in Defence' (MEAID) technical report which includes a framework and pragmatic tools for managing ethical and legal risks for military applications of AI. Australia can play a leadership role by integrating legal and ethical considerations into its ADO AI capability acquisition process. This requires a policy framework that defines its legal and ethical requirements, is informed by Defence industry stakeholders, and provides a practical methodology to integrate legal and ethical risk mitigation strategies into the acquisition process.

연구 동기 및 목표

• 국방 및 안보 분야에서 호주의 현재 AI 거버넌스 환경을 분석하여 윤리적 통합의 격차와 기회를 규명한다.
• OECD 원칙 및 국가 차원의 AI 윤리 프레임워크를 포함한 국제 기준 준수 여부를 검토한다.
• 국방과학기술그룹(DSTG)이 군사적 응용 분야에서 윤리적 AI를 위한 실용적 도구를 개발하는 데 수행하는 역할을 평가한다.
• 호주 국방기구의 AI 조달 과정에 법적 및 윤리적 요구사항을 통합하는 체계적인 정책 프레임워크를 제안한다.
• 기관적 거버넌스 메커니즘을 통해 신뢰할 수 있고 가치 기반의 군사적 AI를 글로벌 수준에서 선도할 수 있도록 호주를 위치지운다.

제안 방법

• 국방 및 국가 차원의 AI 거버넌스 이니셔티브를 종합적으로 검토하며, 이는 Article 36 검토 및 인권 영향 평가를 포함한다.
• 국방 분야에서 윤리적 AI를 위한 방법론(MEAID) 기술 보고서를 핵심 거버넌스 도구로 분석하여 군사적 AI 시스템에서의 윤리적 및 법적 리스크를 식별하고 완화하는 데 활용한다.
• OECD의 가치 기반 AI 원칙 및 UN 특정 전술 무기 협약(CCWC) 프레임워크를 포함한 국제 기준과의 호주 정책 일치도를 매핑한다.
• 방위 산업 이해관계자들의 인사이트를 반영하여 법적 및 윤리적 요구사항을 AI 능력 조달 생애주기에 통합하는 정책 프레임워크를 제안한다.
• AI 시스템 개발 및 조달의 각 단계에서 리스크 완화 전략을 통합하는 실용적이고 단계적인 방법론을 개발한다.
• 사례 기반 분석 및 정책 융합을 통해 윤리적 고려사항이 국방 조달 과정 내에서 어떻게 실천 가능한지 보여준다.

실험 결과

연구 질문

• RQ1 호주의 현재 국방 분야 AI 거버넌스 프레임워크는 국제 기준 및 윤리 기준과 얼마나 일치하는가?
• RQ2 호주 국방기구 내에서 군사적 AI 시스템의 법적 및 윤리적 감시를 보장하기 위한 메커니즘은 무엇이 있는가?
• RQ3 MEAID 프레임워크는 국방 분야 AI 프로젝트에서 윤리적 및 법적 리스크 완화를 얼마나 효과적으로 실천하는가?
• RQ4 호주 국방기구 전반의 AI 조달 과정에 윤리와 법을 통합하기 위해 필요한 정책 및 제도적 변화는 무엇인가?
• RQ5 호주는 글로벌 맥락에서 책임감 있는 군사적 AI 거버넌스의 모델로 기능할 수 있는 방식은 무엇인가?

주요 결과

• 호주는 호주 국방기구를 위한 독립된 AI 거버넌스 프레임워크를 채택하지 않았지만, 국방 분야에서 윤리적 AI를 위한 기초 도구로 MEAID 기술 보고서를 개발하였다.
• MEAID 프레임워크는 군사적 AI 응용 분야에서 법적 및 윤리적 리스크를 식별하고 완화하기 위한 체계적이고 실용적인 방법론을 제공한다.
• 호주는 새로운 무기 체계, 특히 AI 기반 무기 체계가 국제법 준수 여부를 검토하기 위해 Article 36 검토를 이행함으로써 법적 심사 보장을 확보하고 있다.
• 호주는 신뢰할 수 있는 AI를 위한 OECD의 가치 기반 원칙을 준수하며, 국가 차원의 AI 윤리 원칙을 수용함으로써 책임감 있는 혁신에 대한 약속을 강화하고 있다.
• 강력한 윤리적 및 법적 기반에도 불구하고, 국방 조달 분야에서 AI 거버넌스를 위한 공식적이고 통합된 정책 프레임워크가 부재해 핵심 격차로 남아 있다.
• 이 논문은 기관적 거버넌스 메커니즘을 통해 이해관계자 인사이트를 반영한 정책 설계를 통해 호주 국방기구의 AI 조달 과정에 윤리적 및 법적 요구사항을 정착시킴으로써 글로벌적으로 군사적 AI 거버넌스 분야에서 선도적 역할을 할 수 있다고 결론내린다.