[논문 리뷰] Contextualizing Artificially Intelligent Morality: A Meta-Ethnography of Top-Down, Bottom-Up, and Hybrid Models for Theoretical and Applied Ethics in Artificial Intelligence

Jennafer S. Roberts, Laura N. Montoya|arXiv (Cornell University)|2022. 04. 15.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 메타에티코그래피는 인공지능(AI) 도덕성 이해를 위한 삼위일체 프레임워크—윤리적, 기술적, 정치적—를 제안한다. 이는 상향식, 하향식, 하이브리드 모델을 통합한다. 윤리적 AI는 단일 접근 방식으로 환원될 수 없으며, 철학적, 기술적, 권력 기반 정치적 차원 간의 지속적인 협상이 필요하다. 그렇지 않으면 체계적 불평등이 반복될 수 있다.

ABSTRACT

In this meta-ethnography, we explore three different angles of ethical artificial intelligence (AI) design implementation including the philosophical ethical viewpoint, the technical perspective, and framing through a political lens. Our qualitative research includes a literature review that highlights the cross-referencing of these angles by discussing the value and drawbacks of contrastive top-down, bottom-up, and hybrid approaches previously published. The novel contribution to this framework is the political angle, which constitutes ethics in AI either being determined by corporations and governments and imposed through policies or law (coming from the top), or ethics being called for by the people (coming from the bottom), as well as top-down, bottom-up, and hybrid technicalities of how AI is developed within a moral construct and in consideration of its users, with expected and unexpected consequences and long-term impact in the world. There is a focus on reinforcement learning as an example of a bottom-up applied technical approach and AI ethics principles as a practical top-down approach. This investigation includes real-world case studies to impart a global perspective, as well as philosophical debate on the ethics of AI and theoretical future thought experimentation based on historical facts, current world circumstances, and possible ensuing realities.

연구 동기 및 목표

• 윤리적 AI 개발의 권력 구조를 분석하는 정치적 차원을 통합함으로써 기존 AI 윤리 프레임워크를 확장하기 위해.
• 상향식, 하향식, 하이브리드 접근 방식이 이론적, 기술적, 정치적 맥락에서 어떻게 상호작용하는지 조사하기 위해.
• 현실 세계 사례 연구를 통해 편향 복제 및 식민지적 데이터 관행과 같은 체계적 위험을 부각하기 위해.
• AI가 본질적으로 도덕적일 수 있다는 개념을 도전하며, 윤리적 책임은 여전히 인간과 제도에 있음을 주장하기 위해.
• 문화적, 사회적, 권력 기반의 차이를 고려한 동적인, 분산된, 지속적인 협상이 이루어지는 접근 방식을 촉진하기 위해.

제안 방법

• AI 윤리에 관한 기존 문헌을 메타에티코그래픽 합성하여 상향식, 하향식, 하이브리드 모델에 집중하기 위해.
• 강화 학습을 하향식 기술적 예시로 분석하여 행동 학습과 환경 피드백에서 기인한 윤리가 어떻게 나타나는지 살펴보기 위해.
• AI 윤리 원칙을 상향식 기술적 및 정책 기반 프레임워크로 분석하여 AI 시스템 내 윤리적 행동을 표준화하기 위해.
• 정치적 분석을 통합하여 기관의 권력이 윤리적 AI가 어떻게 형성되는지 평가하기 위해—즉, 정부/기업에서 위에서 강제되는 방식이든, 시민/사용자에서 아래에서 요구되는 방식이든.
• 아프리카의 데이터 마이닝과 한국 및 브라질의 접촉 추적 앱 사례 연구를 통해 윤리적 결과의 문화적 및 정치적 다양성을 입증하기 위해.
• 철학적 및 사고 실험을 적용하여 윤리적 AI 프레임워크의 장기적 사회적 영향을 탐구하기 위해.

실험 결과

연구 질문

• RQ1 상향식, 하향식, 하이브리드 모델의 AI 윤리는 이론적, 기술적, 정치적 구현에서 어떻게 다를까?
• RQ2 거버넌스 및 기업 통제에서의 권력 불균형은 AI 시스템 내에서 체계적 불평등을 어떻게 재생산하는가?
• RQ3 강화 학습이 AI의 윤리적 행동을 위한 타당한 하향식 메커니즘으로 기능할 수 있는가? 그 한계는 무엇인가?
• RQ4 접촉 추적 앱이나 아프리카의 데이터 마이닝과 같은 현실 세계의 AI 구현은 윤리적 결과에서 문화적 및 정치적 격차를 어떻게 드러내는가?
• RQ5 윤리가 자본으로서의 자본화를 추구하는 수익 중심 체계에 둘러싸인 상태에서 윤리적 AI가 진정으로 윤리적일 수 있는가?

주요 결과

• AI 윤리는 단일 모델로는 달성할 수 없다. 상향식, 하향식, 하이브리드 중 어느 한 방식도 보편적으로 충분하거나 윤리적이지 않다.
• 상향식 윤리, 예를 들어 AI 원칙이나 규칙 기반 시스템은 종종 기업 또는 정부의 이해를 반영하며, 수익을 우선시하는 '기업화된 윤리'로 악용될 위험이 있다.
• 하향식 접근 방식인 강화 학습은 훈련 데이터에 존재하는 사회적 편견을 반영하며, 종종 기존의 불평등—예를 들어 인종이나 성별 차별—을 악화시킨다.
• 사례 연구는 같은 AI 기술이 문화 간에 매우 다른 윤리적 결과를 낳을 수 있음을 보여준다. 예를 들어, 한국의 접촉 추적 앱은 국민 신뢰와 국가 역량 덕분에 성공했지만, 브라질의 경우는 공정성과 투명성 부족으로 실패했다.
• 정치적 시각은 AI 윤리가 중립적이지 않음을 드러낸다. 누가 권력을 쥐고 있는지가 결정적이며, 포괄적이고 참여적인 거버넌스가 없으면 윤리적 AI는 식민지주의와 착취를 계속 유지할 위험이 있다.
• 진정한 윤리적 AI는 고정된 규칙나 기술적 해결책만으로는 부족하며, 지속적인 협상, 윤리적 불확실성, 체계적 책임이 필요하다.