[논문 리뷰] Relational Artificial Intelligence

Virginia Dignum|arXiv (Cornell University)|2022. 02. 04.

Ethics and Social Impacts of AI인용 수 29

한 줄 요약

요약: 본 논문은 AI에 대한 관계적이며 Ubuntu-와 페미니스트에서 영감을 받은 패러다임을 주장하며, 순수한 합리적/알고리즘적 접근보다 사회-기술적 거버넌스를 강조합니다.

ABSTRACT

The impact of Artificial Intelligence does not depend only on fundamental research and technological developments, but for a large part on how these systems are introduced into society and used in everyday situations. Even though AI is traditionally associated with rational decision making, understanding and shaping the societal impact of AI in all its facets requires a relational perspective. A rational approach to AI, where computational algorithms drive decision making independent of human intervention, insights and emotions, has shown to result in bias and exclusion, laying bare societal vulnerabilities and insecurities. A relational approach, that focus on the relational nature of things, is needed to deal with the ethical, legal, societal, cultural, and environmental implications of AI. A relational approach to AI recognises that objective and rational reasoning cannot does not always result in the 'right' way to proceed because what is 'right' depends on the dynamics of the situation in which the decision is taken, and that rather than solving ethical problems the focus of design and use of AI must be on asking the ethical question. In this position paper, I start with a general discussion of current conceptualisations of AI followed by an overview of existing approaches to governance and responsible development and use of AI. Then, I reflect over what should be the bases of a social paradigm for AI and how this should be embedded in relational, feminist and non-Western philosophies, in particular the Ubuntu philosophy.

연구 동기 및 목표

• AI의 사회적 영향을 강조하여 책임 있는 개발과 사용을 촉진한다.
• 전통적 합리적‧알고리즘적 관점을 비판하고 관계적 관점을 옹호한다.
• Ubuntu와 페미니스트 철학이 AI를 위한 사회적 패러다임의 기반이 될 수 있는지 탐구한다.
• 규제, 표준, 평가, 행동강령, 인식제고 등 거버넌스 접근법을 조사하고 이것들이 관계적 AI 프레임워크에 어떻게 적합한지 판단한다.
• 권력, 포용성 및 사회적 복지에 대응하기 위해 AI 설계, 배치 및 정책에 관계성을 내재시키는 것을 제안한다.

제안 방법

• AI 개념, 거버넌스 접근법 및 윤리적 고려에 대한 문헌고찰.
• 합리적 AI 패러다임과 관계적 AI 패러다임을 비교하는 철학적 주장.
• AI의 사회기술적 시스템과 권력 역학에 대한 개념적 분석.
• Relational AI의 기초로 Ubuntu 이론과 페미니스트 이론의 통합.
• 거버넌스 도구로서 규제, 표준화, 평가, 행동강령 및 참여 메커니즘에 대한 논의.

실험 결과

연구 질문

• RQ1 맥락, 변화, 공동의 추론을 고려하는 AI를 위한 사회적 패러다임의 기초는 무엇이어야 하는가?
• RQ2 AI를 공동체 관계와 사회 정의에 기반하도록 Ubuntu 철학이 어떻게 기여할 수 있는가?
• RQ3 페미니스트 이론이 AI 개발 및 사용의 권력 역학과 포용성을 어떻게 밝힐 수 있는가?
• RQ4 규제, 표준, 평가, 행동강령의 어떤 조합이 책임 있고 관계적인 AI를 가장 잘 지원하는가?
• RQ5 전 세계 지역에서 포용적 AI 거버넌스를 촉진하기 위해 인식 제고와 참여를 어떻게 강화해야 하는가?

주요 결과

• AI 행위와 사회 맥락 사이의 피드백 루프를 모델화하기 위해 관계적 패러다임이 필요하며, 집단적 추론과 변화하는 규범을 통합한다.
• Ubuntu와 페미니스트 철학은 AI를 공동체 관계, 권력 인식 및 포용성에 기반시키는 상호 보완적 기초를 제공한다.
• AI 거버넌스는 체크리스트 그 이상이 필요하며, 규제, 표준, 평가 도구, 행동강령 및 자문 구조를 사회기술적 생태계에 통합해야 한다.
• 현대의 AI 서사(지능, 마법 또는 순수 알고리즘)는 AI를 잘못 표현하고 책임 있는 개발을 저해한다; 맥락적이고 관계적인 시각이 이 문제를 완화한다.
• 지역별 및 다문화 관점(예: Africa)은 전 세계적으로 책임 있는 AI를 위해 필수적이며, 정책이 다양한 사회적 규범과 가치를 반영하도록 한다.