[논문 리뷰] Beyond Bias and Compliance: Towards Individual Agency and Plurality of Ethics in AI

Thomas Krendl Gilbert, Megan Welle Brozek외 1명|arXiv (Cornell University)|2023. 02. 23.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 편향과 준수 중심의 지배적인 인공지능 윤리 패러다임에서 개인의 주체성과 윤리적 가치의 다원성에 중점을 둔 프레임워크로의 전환을 제안한다. 데이터 레이블링을 도덕적 행위로 재고하고, 사용자가 정의한 가치와 시스템 아키텍처에 기반한 인공지능 윤리에 기반해, 사용자 통제와 표현의 자유를 통해 신뢰를 조성하는 윤리적으로 통합된 인공지능을 주장한다.

ABSTRACT

AI ethics is an emerging field with multiple, competing narratives about how to best solve the problem of building human values into machines. Two major approaches are focused on bias and compliance, respectively. But neither of these ideas fully encompasses ethics: using moral principles to decide how to act in a particular situation. Our method posits that the way data is labeled plays an essential role in the way AI behaves, and therefore in the ethics of machines themselves. The argument combines a fundamental insight from ethics (i.e. that ethics is about values) with our practical experience building and scaling machine learning systems. We want to build AI that is actually ethical by first addressing foundational concerns: how to build good systems, how to define what is good in relation to system architecture, and who should provide that definition. Building ethical AI creates a foundation of trust between a company and the users of that platform. But this trust is unjustified unless users experience the direct value of ethical AI. Until users have real control over how algorithms behave, something is missing in current AI solutions. This causes massive distrust in AI, and apathy towards AI ethics solutions. The scope of this paper is to propose an alternative path that allows for the plurality of values and the freedom of individual expression. Both are essential for realizing true moral character.

연구 동기 및 목표

• 인공지능 윤리에서 편향과 준수를 주요 프레임워크로 삼는 것의 지배적 성향을 도전하며, 이는 도덕적 결정의 전체 범위를 포괄하지 못한다는 점을 지적한다.
• 데이터 레이블링이 인공지능 시스템의 윤리적 행동을 어떻게 형성하는지에 대한 기초적 문제를 다루며, 레이블링을 도덕적 행위로 위치시킨다.
• 사용자가 알고리즘 행동과 윤리적 결과에 직접적인 통제권을 가지게 하여, 인공지능에 대한 신뢰를 구축하는 데 기반을 마련한다.
• 다양한 가치를 존중하고 인공지능 시스템 내에서 개인의 표현을 지원하는 다원주의 윤리 모델을 옹호한다.
• 윤리적 인공지능을 준수 기반 제품이 아니라, 사용자가 자신의 도덕적 원칙에 따라 살아가도록 돕는 시스템으로 재정의한다.

제안 방법

• 레이블링 선택이 인공지능 시스템의 도덕적 행동에 직접적인 영향을 미친다는 점을 강조하며, 데이터 레이블링을 핵심 윤리 실천으로 재구성한다.
• 특히 가치가 윤리적 결정에 미치는 역할에 초점을 맞춘 도덕 철학의 통찰을 기계 학습 시스템 설계에 통합한다.
• 윤리적 인공지능은 사용자가 정의한 가치를 지원하도록 아키텍처화되어야 하며, 이로써 개인이 알고리즘의 행동 방식을 규정할 수 있도록 해야 한다고 제안한다.
• 윤리적 통합은 공정성 지표를 넘어서야 하며, 개인의 주체성과 도덕적 표현을 위한 구조적 지원이 필요하다고 강조한다.
• 최종 사용자가 인공지능 시스템 내 윤리 기준을 정의하는 데 기여하는 참가형 설계 프로세스를 주장한다.
• 규제 준수의 결과로 신뢰를 얻는 것이 아니라, 윤리적 인공지능이 사용자에게 실질적이고 개인적인 가치를 제공함으로써 신뢰가 형성된다는 점을 재고할 것을 촉구한다.

실험 결과

연구 질문

• RQ1 인공지능 윤리가 편향 완화와 규제 준수의 한계를 넘어서 도덕적 결정의 전체 범위를 다룰 수 있는 방법은 무엇인가?
• RQ2 데이터 레이블링이 어떻게 인공지능 시스템의 윤리적 행동을 형성하는 도덕적 행위로 작용하는가?
• RQ3 개인의 주체성을 실현하기 위해 필요한 구조적 및 설계 원칙은 무엇인가?
• RQ4 다양한 도덕적 표현을 지원하기 위해 가치의 다원성이 어떻게 인공지능 아키텍처에 통합될 수 있는가?
• RQ5 사용자가 윤리적 인공지능으로부터 직접적이고 개인적인 가치를 경험할 수 있도록 하는 메커니즘은 무엇인가?

주요 결과

• 논문은 데이터 레이블링이 중립적인 기술적 과정이 아니라, 인공지능 시스템의 윤리적 행동을 형성하는 기초적인 도덕적 행위임을 입증한다.
• 현재의 편향과 준수 중심 인공지능 윤리 접근 방식은 인공지능 내에서 개인의 주체성과 도덕적 자율 결정의 깊은 필요를 충족하지 못한다.
• 사용자가 윤리적 행동으로부터 직접적이고 개인적인 가치를 경험하지 못하는 한, 윤리적 인공지능은 신뢰를 얻을 수 없다. 현재의 시스템은 이를 제공하지 못하고 있다.
• 다양한 가치와 개인의 표현을 지원하는 다원주의 윤리 모델은 진정으로 도덕적 특성을 지닌 인공지능 시스템을 실현하기 위해 필수적이다.
• 저자는 윤리적 인공지능이 사용자가 자신의 가치를 정의하고 시행할 수 있도록 설계되어야 하며, 일률적인 준수 프레임워크를 넘어서야 한다고 결론 내린다.
• 제안된 프레임워크는 신뢰를 외부 규제 준수에 기반하는 것이 아니라, 사용자 통제와 가치 일치에서 비롯된다는 점에서 인공지능에 대한 신뢰의 개념을 재정의한다.