[논문 리뷰] Solidarity should be a core ethical principle of Artificial Intelligence

Miguel Luengo-Oroz|arXiv (Cornell University)|2019. 10. 22.

Ethics and Social Impacts of AI참고 문헌 6인용 수 29

한 줄 요약

이 논문은 AI의 核심 윤리 원칙으로 연대를 제안하며, AI가 창출하는 번영을 공정하게 재분배하고 장기적인 사회적 해를 사전에 완화할 것을 주장한다. 이는 두 가지 기둥으로 구성된다: (1) 데이터 로열티, 오픈소스 모델 등으로 구성된 재정적 및 디지털 메커니즘을 통한 복리 공유, (2) 인간의 무용성 방지를 위한 사전 배포 평가로, AI가 소수의 특권 계층을 위한 것이 아니라 모든 인류를 위한 것이 되도록 보장한다.

ABSTRACT

Solidarity is one of the fundamental values at the heart of the construction of peaceful societies and present in more than one third of world's constitutions. Still, solidarity is almost never included as a principle in ethical guidelines for the development of AI. Solidarity as an AI principle (1) shares the prosperity created by AI, implementing mechanisms to redistribute the augmentation of productivity for all; and shares the burdens, making sure that AI does not increase inequality and no human is left behind. Solidarity as an AI principle (2) assesses the long term implications before developing and deploying AI systems so no groups of humans become irrelevant because of AI systems. Considering solidarity as a core principle for AI development will provide not just an human-centric but a more humanity-centric approach to AI.

연구 동기 및 목표

• 기존 AI 윤리 지침에서의 연대 부족 문제를 다루며, 주로 신뢰성, 공정성, 책임성에 초점을 맞추고 있다.
• 유발 노아 하라리가 예측한 바와 같이 AI가 대규모 인구 집단을 경제적·사회적으로 무의미하게 만들 수 있는 위험을 상쇄한다.
• AI의 생산성 향상 효과를 사회 전반에 공정하게 재분배할 수 있는 프레임워크를 제공한다.
• 데이터 기여자들에게 재정적 보상이 포함된 복리 및 부담 공유 메커니즘을 도입한다.
• AI에 의한 체계적 위험(예: AI 기반 허위정보, 환경 비용)을 관리하기 위한 글로벌 거버넌스 구조를 주장한다.

제안 방법

• 연대를 이원적 윤리 원칙으로 제안: (1) AI가 창출하는 번영의 공정한 배분, (2) 인간의 무용성 방지를 위한 장기적 위험 평가.
• AI 시스템에서 유래하는 가치를 개인과 공동체에게 되돌리기 위한 재정적 메커니즘(예: 데이터 로열티, 로봇세)을 권고.
• AI 모델의 오픈소싱 및 디지털 공공재(예: 기후 및 보건 모델)를 통해 접근성과 복리 공유를 보장.
• 글로벌 건강 비상사태와 유사한 국제적 규제 수단, 즉 글로벌 AI 비상선언을 통한 대규모 AI 위기 대응을 촉구.
• AI 모델의 이점이 탄소 배출량을 초월해야 한다는 지속 가능성 정책을 주장.
• 사회적 영향을 기반으로 고위험 AI 응용(예: 얼굴 인식, 자율 무기)에 대한 사전 금지 또는 엄격한 규제를 제안.

실험 결과

연구 질문

• RQ1 AI 개발은 어떻게 구성되어야 하며, AI의 생산성 향상 효과가 사회 전반에 공정하게 분배될 수 있는가?
• RQ2 AI 모델 훈련에 기여하는 개인의 데이터에 대해 재정적 보상이 이루어질 수 있는 메커니즘은 무엇인가?
• RQ3 AI 시스템은 어떻게 사전 평가되어야 하며, 전체 인간 집단의 장기적 배제나 무용성 방지를 방지할 수 있는가?
• RQ4 AI의 체계적 위험(예: 대규모 허위정보, 환경 피해)을 관리하기 위해 필요한 글로벌 거버넌스 프레임워크는 무엇인가?
• RQ5 연대라는 윤리 원칙이 인간 중심 설계에서 인류 중심 설계로 AI를 전환시키는 데 어떤 방식으로 기여할 수 있는가?

주요 결과

• 30% 이상의 세계 헌법과 유럽 선언서에서 연대는 기본 가치로 자리 잡고 있으나, 93%의 AI 윤리 지침에서는 존재하지 않거나 모호하게 정의되어 있다.
• 검토된 84개의 AI 원칙 중 단 6개만이 연대를 명시적으로 언급하고 있으며, 그 정의는 일관되지도 않고 발전이 부족하다.
• 데이터 로열티 제도는 의사, 작가 등 행동 또는 창작 데이터를 기여한 개인에게 재정적 보상을 제공할 수 있다.
• 자동화 또는 로봇에 세금을 부과하는 것은 AI가 창출하는 재산을 재분배하고 실업에 시달리는 노동자를 지원하는 재정적 메커니즘으로 기능할 수 있다.
• 글로벌 건강 비상사태와 유사한 글로벌 AI 비상선언은 대규모 AI 위기 대응을 위한 국제적 협력 조치를 가능하게 한다.
• 현재 AI 개발은 모델 훈련의 탄소 배출량을 종종 忽시하고 있어, 순이익 평가를 요구하는 지속 가능성 정책이 필요하다.