[논문 리뷰] Stakeholder Participation in AI: Beyond "Add Diverse Stakeholders and Stir"

Fernando Delgado, Stephen J.H. Yang외 2명|arXiv (Cornell University)|2021. 11. 01.

Ethics and Social Impacts of AI참고 문헌 33인용 수 21

한 줄 요약

이 논문은 AI 설계에서 이해관계자의 참여를 평가하고 향상시키기 위해 목적, 범위, 시기, 방법, 권력 분배의 다섯 가지 차원으로 구성된 구조적 프레임워크를 제안한다. 56편의 참가형 AI 논문과 12건의 인터뷰 분석을 바탕으로, 조직적 명령, 프로젝트 주도자의 권한, 실용적 제약 등 핵심 과제를 밝혀내며, 표면적인 포함을 넘어서 의미 있고 공정한 이해관계자 권한 강화를 위한 원칙적인 접근을 제시한다.

ABSTRACT

There is a growing consensus in HCI and AI research that the design of AI systems needs to engage and empower stakeholders who will be affected by AI. However, the manner in which stakeholders should participate in AI design is unclear. This workshop paper aims to ground what we dub a 'participatory turn' in AI design by synthesizing existing literature on participation and through empirical analysis of its current practices via a survey of recent published research and a dozen semi-structured interviews with AI researchers and practitioners. Based on our literature synthesis and empirical research, this paper presents a conceptual framework for analyzing participatory approaches to AI design and articulates a set of empirical findings that in ensemble detail out the contemporary landscape of participatory practice in AI design. These findings can help bootstrap a more principled discussion on how PD of AI should move forward across AI, HCI, and other research communities.

연구 동기 및 목표

• 참여형 AI 관행에서 원칙적인 평가가 부족한 데에 대비하여, '다양한 이해관계자를 추가하고 혼합하는 것'만으로는 공정한 결과를 이끌어내기 부족하다는 점을 다루기 위해.
• AI 설계에서 진정으로 권한을 부여하는 데 기여하는 이해관계자 참여의 핵심 차원을 식별하고 체계화하기 위해.
• 참여형 AI를 구현하는 데 있어 실무자들이 겪는 실제 갈등과 제약, 예를 들어 조직적 명령과 자원 제약를 분석하기 위해.
• 기술회의적 기록에 머무르는 참가형 워크숍의 묘사적 서술을 넘어서, 참여형 AI 방법의 공정성과 포용성 평가를 위한 이론적이고 경험적인 프레임워크를 마련하기 위해.
• 구조적이고 책임감 있는 참여를 통해 향후 연구와 실무가 다양한 가치와 윤리적 고려사항을 의미 있게 반영하는 AI 시스템을 설계하는 데 지침을 제공하기 위해.

제안 방법

• HCI 및 AI 연구 공동체에서 발표된 참여형 AI에 관한 56편의 동료 심사 논문을 분석하여 이해관계자 참여의 반복적 패턴을 식별한다.
• 참여형 AI 프로젝트를 이끈 연구자들과 실무자 12명을 대상으로 IRB 승인을 받은 반구조화된 인터뷰를 수행하여 현장에서의 과제와 의사결정 과정을 탐구한다.
• HCI, 정치이론, 사회과학의 접근 방식을 비교 분석하여 이해관계자 참여의 다섯 가지 차원—목적, 범위, 시기, 방법, 권력 분배—를 도출한다.
• 인터뷰 데이터와 논문 내용의 주제 분석을 통해 프레임워크를 검증하며, 이해관계자 포함, 권한, 실현 가능성의 갈등에 집중한다.
• 권력 역학과 구조적 제약에 대한 비판적 반성을 강조하며, 역사적으로 소외된 목소리를 통합하기 위한 HCI의 노력과 유사점을 도출한다.
• 질적 통합을 통해 이상적 참여와 실용적 제약, 대리 표현과 진정성 있는 참여 사이의 긴장을 맵핑한다.

실험 결과

연구 질문

• RQ1 참여형 AI 관행이 표면적인 포함을 넘어서 이해관계자의 실질적 권한 강화를 얼마나 평가할 수 있는가?
• RQ2 효과적인 참여와 표면적인 참여를 구분하는 데 핵심적인 구조적 및 절차적 차원은 무엇인가?
• RQ3 조직적 명령과 프로젝트 일정이 AI 개발에서 이해관계자 참여의 범위와 정당성에 어떻게 제약을 가하는가?
• RQ4 프로젝트 주도자의 실행 권한이 참여형 AI 과정에서 민주적 이상을 어떻게 약화시키는가?
• RQ5 완전하고 지속적인 참여가 불가능할 경우, 최소한이지만 의미 있는 참여 수준은 무엇인가?

주요 결과

• 조직적 명령은 어떤 이해관계자가 포함되는지, 어떤 질문이 테이블에 올라가는지를 결정하는 경우가 많으며, 종종 '어떻게'를 뛰어넘어 '왜'를 고려하지 못하게 한다.
• 조직적 명령은 민주적 설계를 목표로 하더라도 이해관계자 역할, 참여 방법, 합의 조건을 정의하는 데 있어 프로젝트 주도자가 지나치게 많은 권한을 유지한다.
• 실용적 제약로 인해 실무자들은 직접적이고 지속적인 이해관계자 참여 대신, 인물 프로파일이나 훈련된 선호 모델 같은 대리자에 의존한다.
• '완전한 참여'의 이상은 실무자들 사이에서 현실적으로 불가능하다고 평가되며, 대신 윤리적 목표와 실현 가능성 사이의 균형을 맞추는 최소한의 의미 있는 참여를 추구한다.
• 참여가 수익 감소의 임계점을 도달하는 시점에 대한 명확한 기준이 없어, 최소한의 효과적 참여를 정의하는 데 중요한 연구 격차가 존재한다.
• 목적, 범위, 시기, 방법, 권력 분배의 다섯 가지 참여 차원은 참여형 AI 관행을 평가하고 향상시키기 위한 체계적이고 경험적으로 기반을 둔 프레임워크를 제공한다.