[논문 리뷰] Artificial Intelligence and Arms Control

Paul Scharre, Megan Lamberth|arXiv (Cornell University)|2022. 10. 22.

Cybersecurity and Cyber Warfare Studies인용 수 4

한 줄 요약

이 논문은 전 세계적 금지가 현실적으로 불가능하나, 군사적 타당성과 사회정치적 실현 가능성 기준에 따라 특정 AI 기반 무기 시스템에 대한 타겟팅된 무기통제가 가능하다고 주장한다. 역사적 무기통제 사례를 바탕으로, 규제가 성공하는 조건을 규명하고, 사망 위험성이 높은 자율 무기 및 기타 고위험 AI 시스템을 규제하기 위한 실천 가능한 정책 권고안을 제시한다.

ABSTRACT

Potential advancements in artificial intelligence (AI) could have profound implications for how countries research and develop weapons systems, and how militaries deploy those systems on the battlefield. The idea of AI-enabled military systems has motivated some activists to call for restrictions or bans on some weapon systems, while others have argued that AI may be too diffuse to control. This paper argues that while a ban on all military applications of AI is likely infeasible, there may be specific cases where arms control is possible. Throughout history, the international community has attempted to ban or regulate weapons or military systems for a variety of reasons. This paper analyzes both successes and failures and offers several criteria that seem to influence why arms control works in some cases and not others. We argue that success or failure depends on the desirability (i.e., a weapon's military value versus its perceived horribleness) and feasibility (i.e., sociopolitical factors that influence its success) of arms control. Based on these criteria, and the historical record of past attempts at arms control, we analyze the potential for AI arms control in the future and offer recommendations for what policymakers can do today.

연구 동기 및 목표

• 자율 무기와 같은 우려가 증가하는 군사용 인공지능의 무기통제 가능성을 평가하기 위해, 증가하는 우려 속에서 군사용 인공지능에 대한 무기통제의 실현 가능성을 평가한다.
• 과거 무기통제 성공 및 실패 사례를 분석하여 규제 효과성에 영향을 미치는 핵심 기준을 규명한다.
• 특히 사망 위험성이 높은 자율 무기와 같은 특정 AI 기반 무기 체계가 효과적으로 규제될 수 있는지 평가한다.
• 역사적 사례와 현재 기술 트렌드를 바탕으로 정책 입안자에게 실천 가능한 권고안을 제공한다.
• 미래의 AI 거버넌스 프레임워크를 설계할 때 군사적 유용성과 윤리적·전략적 위험 간의 균형을 맞추기 위해 노력한다.

제안 방법

• 군사적 유용성이 높지만 윤리적 또는 인도적 우려가 큰 무기 체계에 초점을 맞춘 과거 무기통제 협정의 비교 역사 분석을 수행한다.
• 무기통제 성공의 두 핵심 기준을 규명한다: 인식된 '끔찍함'(윤리적 또는 인도적 반발)과 사회정치적 실현 가능성(정치적 의지, 검증 능력).
• 이 기준들을 특히 사망 위험성이 높은 자율 무기 체계(LAWS)를 포함한 신규 군사용 AI 기술에 적용하여 규제 잠재력을 평가한다.
• AI 무기통제 조치의 이행 준수를 모니터링하고 검증하는 데 있어 기술적, 정치적, 제도적 과제를 평가한다.
• 위험도가 높고 군사적 필요성이 낮은 체계를 우선순위로 삼는 계층적 접근 방식을 제안한다.
• 화학무기, 클러스터 무기, 인공위성 타격 무기 사례 연구를 통해 규제가 성공하거나 실패하는 조건을 설명한다.

실험 결과

연구 질문

• RQ1 과거에 무기통제는 어떤 조건에서 성공하거나 실패했으며, AI에 적용 가능한 교훈은 무엇인가?
• RQ2 무기 체계의 인식된 '끔찍함'과 군사적 유용성이 무기통제 성공 가능성에 어떻게 영향을 미치는가?
• RQ3 AI 무기 규제 가능성을 결정짓는 사회정치적 및 기술적 실현 가능성 요소는 무엇인가?
• RQ4 특정 AI 기반 군사 체계—예를 들어 사망 위험성이 높은 자율 무기—는 국제 협약을 통해 효과적으로 규제될 수 있는가?
• RQ5 국가들은 오늘날 어떤 정책 조치를 통해 책임감 있는 군사용 AI 개발 및 배치를 이끌 수 있는가?

주요 결과

• 무기 체계가 광범위하게 비인간적 또는 윤리적으로 문제시된다고 인식될 경우, 군사적 가치가 있더라도 무기통제가 성공할 가능성이 높아진다.
• 규제의 실현 가능성은 정치적 의지, 검증 메커니즘, 특정 체계의 정의 및 감시 능력에 따라 달라진다.
• 방위 분야 전반에 걸쳐 광범위하고 산재한 응용이 있는 만큼, 모든 군사용 AI에 대한 전 세계적 금지는 성공할 가능성이 낮다.
• 사망 위험성이 높은 자율 무기 체계(LAWS)는 빠르고 통제되지 않은 격상 가능성이 있어 무기통제의 고위험 대상이다.
• 화학무기금지협약(CWC)과 제한무기규약(CCWR)과 같은 역사적 사례는 국제적 합의와 이행 가능한 검증이 있을 경우 무기통제가 효과적일 수 있음을 보여준다.
• 논문은 단계적이고 문제 중심의 접근 방식을 제안하며, 가장 명확한 위험을 안고 있으며 규제에 가장 적합한 체계부터 시작한다.