[논문 리뷰] AI Ethics for Systemic Issues: A Structural Approach

Agnes Schim van der Loeff, I. G. Bassi외 2명|arXiv (Cornell University)|2019. 11. 08.

Ethics and Social Impacts of AI참고 문헌 18인용 수 8

한 줄 요약

이 논문은 기술적 보완과 개인 책임 중심의 기존 모델을 보완하는 구조적 접근을 제안하여, 기후 변화와 식량 안보와 같은 글로벌 과제에서 AI의 사회경제적 및 정치적 맥락과의 상호작용으로 인한 체계적 위험을 다룹니다. 기술적 해결책과 개인의 책임만으로는 부족하며, 다학제적 협력, 국제 윤리 기준, 구조적 거버넌스를 통해 AI가 공공의 복지를 위해 기여하도록 해야 한다고 주장합니다.

ABSTRACT

The debate on AI ethics largely focuses on technical improvements and stronger regulation to prevent accidents or misuse of AI, with solutions relying on holding individual actors accountable for responsible AI development. While useful and necessary, we argue that this "agency" approach disregards more indirect and complex risks resulting from AI's interaction with the socio-economic and political context. This paper calls for a "structural" approach to assessing AI's effects in order to understand and prevent such systemic risks where no individual can be held accountable for the broader negative impacts. This is particularly relevant for AI applied to systemic issues such as climate change and food security which require political solutions and global cooperation. To properly address the wide range of AI risks and ensure 'AI for social good', agency-focused policies must be complemented by policies informed by a structural approach.

연구 동기 및 목표

• 현재 AI 윤리 논의의 한계를 비판하는 것—즉, 개인의 책임과 기술적 해결책 중심에 초점을 맞춘 논의의 한계를 지적하는 것.
• AI가 사회정치적 체계에 통합될 때 발생하는 체계적 위험—예를 들어 불평등 심화나 감시 기능 강화—을 부각하는 것.
• 직접적, 맥락적, 집단적 영향을 고려하는 구조적 접근을 주장하여, 기후 변화와 식량 안보와 같은 글로벌 과제에서의 영향을 다루는 것.
• AI 연구자, 사회과학자, 정책 입안자 간의 다학제적 협력을 통해 체계적 위험을 사전에 파악하고 완화하는 것.
• 국제 표준과 독립된 집행 기구를 포함한 정책 및 거버넌스 메커니즘을 제안하여 AI가 공공의 복지를 위해 기여하도록 보장하는 것.

제안 방법

• 기존의 AI 윤리 프레임워크를 분석하여 기술적 개선과 개인의 책임에 대한 과도한 의존을 식별하는 것.
• '기여자 중심' 접근—알고리즘의 공정성, 투명성, 책임 소재에 초점을 맞춘 것—과 대비하여, 체계적·맥락적·집단적 위험을 분석하는 '구조적 접근'을 제시하는 것.
• 기후 모델링과 식량 안보 분야에서의 AI 적용 사례 연구를 통해 데이터 공유와 모델 출력이 지리정치적 또는 경제적 불안정을 유발할 수 있음을 분석하는 것.
• AI 개발자가 기술적 안전성 외에도 데이터 및 모델 배포의 광범위한 사회정치적 영향을 평가해야 한다고 제안하는 것.
• 사회과학자와 정책 입안자의 참여를 포함한 구조적 위험 평가를 윤리 코드에 통합할 것을 권고하는 것.
• 국제 협력, 표준화된 윤리 코드, 독립된 규제 기구를 통해 규범적으로 적용 가능한 윤리 기반 AI를 확보하기 위한 다각적 거버넌스 메커니즘을 주장하는 것.

실험 결과

연구 질문

• RQ1 왜 현재의 AI 윤리 접근 방식은 기후 변화나 식량 안보 분야의 체계적 위험을 해결하는 데 부족한가?
• RQ2 사회정치적 및 경제적 맥락은 기술적으로 공정하고 투명한 AI 시스템의 영향을 어떻게 증폭하거나 왜곡하는가?
• RQ3 권력 불균형, 자원 부족, 또는 세계적 불평등과 같은 구조적 요인이 AI의 실제 영향을 어떻게 형성하는가?
• RQ4 개인의 책임을 넘어서 체계적 위험 평가를 포함한 윤리 지침은 어떻게 개선될 수 있는가?
• RQ5 국가 및 국제 차원에서 구조적 접근을 시행하기 위해 필요한 제도적 및 거버넌스 메커니즘은 무엇인가?

주요 결과

• 기술적 보완과 개인의 책임 중심의 기여자 중심 접근은 AI가 사회정치적 구조와 상호작용할 때 발생하는 간접적·체계적 위험을 해결하지 못한다.
• 식량 안보 분야에서의 AI 사례 연구는, 구조적 불평등과 권력 역학을 고려하지 않은 경우 조차도 심지어 양심적인 시스템이라도 지리정치적 긴장이나 자원 갈등을 유발할 수 있음을 보여준다.
• 케임브리지 애널리티카 스캔들 사례는, 마이크로타겟팅 정치적 조작을 가능하게 하는 체계적 위험—기술적 보완이나 개인의 책임만으로는 해결되지 않는 위험—이 있음을 입증한다.
• 구조적 접근는 AI 개발자가 알고리즘 성능 외에도 데이터 공유 및 모델 배포의 광범위한 사회정치적 영향을 평가해야 한다는 것을 요구한다.
• '윤리 쇼핑'을 방지하고 AI가 글로벌 공공재를 위해 기여하도록 하기 위해 국제적 협력과 표준화된 윤리 코드가 필수적이다.
• 독립된 규제 기관과 다학제적 협력이 필수적이며, 이는 추상적인 윤리 원칙을 체계적 위험 완화를 위한 집행 가능한 정책으로 전환하는 데 핵심적이다.