[논문 리뷰] Unraveling the Nuances of AI Accountability: A Synthesis of Dimensions Across Disciplines

Loc H. Nguyen, Sebastian Lins외 2명|arXiv (Cornell University)|2024. 01. 01.

Ethics and Social Impacts of AI인용 수 1

한 줄 요약

이 논문은 인공지능 책임성에 관한 다학제적 연구를 통합하여, 책임성 시나리오를 명확히 하기 위해 13차원으로 정리된 6개의 核 心 주제—유도 원인, 주체, 상황, 토론 장소, 기준, 제재—를 규명한다. 이는 개념적 모호성을 줄이고 향후 인공지능 거버넌스 및 책임성 분야의 연구와 실천을 지원하기 위한 체계적이고 다학제적인 프레임워크를 제공한다.

ABSTRACT

The widespread diffusion of Artificial Intelligence (AI)-based systems offers many opportunities to contribute to the well-being of individuals and the advancement of economies and societies. This diffusion is, however, closely accompanied by public scandals causing harm to individuals, markets, or society, and leading to the increasing importance of accountability. AI accountability itself faces conceptual ambiguity, with research scattered across multiple disciplines. To address these issues, we review current research across multiple disciplines and identify key dimensions of accountability in the context of AI. We reveal six themes with 13 corresponding dimensions and additional accountability facilitators that future research can utilize to specify accountability scenarios in the context of AI-based systems.

연구 동기 및 목표

• 다양한 분야에서 산재한 연구로 인해 발생하는 인공지능 책임성에 대한 개념적 모호성을 해소하기 위해.
• 컴퓨터 과학, 법학, 정보 시스템 등 다양한 분야에서 인공지능 책임성의 핵심 차원을 식별하고 통합하기 위해.
• 인공지능 시스템에서 책임성의 명확한 개념화와 적용을 지원하는 통합된 다학제적 프레임워크를 제공하기 위해.
• 연구자와 실무자가 책임성 메커니즘을 설계할 수 있도록 책임성 프로세스의 촉진 요소와 구조적 구성 요소를 식별함으로써 지원하기 위해.

제안 방법

• 컴퓨터 과학, 법학, 정보 시스템 분야에서의 67편의 동료 심사 논문에 대한술적 문헌 리뷰를 수행하였다.
• 데이와 클라인(1987)의 분류 프레임워크를 기반으로 한 주제 분석을 적용하여 책임성 차원을 식별하고 체계화하였다.
• 6개의 통합 주제—유도 원인, 주체, 상황, 토론 장소, 기준, 제재—로 연구 결과를 통합하였다.
• 시스템 투명성, 거버넌스 구조, 사회적 기능 등 책임성 촉진 요소를 식별하고 논의하였다.
• 차원 간 관계를 맵핑하여 맥락적 의존성(예: 상황이 토론 장소 선택에 미치는 영향)을 부각시켰다.
• 주제 일관성 검증 및 기존 책임성 이론(예: Bovens, 2007)과의 일치성을 통해 연구 결과를 검증하였다.

실험 결과

연구 질문

• RQ1 다양한 학술 분야에서 규명된 인공지능 책임성의 핵심 차원은 무엇인가?
• RQ2 실제 인공지능 시스템에서 유도 원인, 주체, 토론 장소 등의 다양한 책임성 주제들이 어떻게 상호 연관되어 있는가?
• RQ3 어떤 촉진 요소들이 인공지능 기반 시스템의 책임성을 강화하거나 저해하는가? 이러한 요소들은 설계 및 정책에서 어떻게 활용될 수 있는가?
• RQ4 현재 인공지능 책임성 분야의 개념적 분열은 연구와 실천에 어떤 영향을 미치는가?

주요 결과

• 유도 원인, 주체, 상황, 토론 장소, 기준, 제재의 6개 핵심 주제가 인공지능 책임성의 중심이 되며, 각 주제는 13개의 구체적 차원으로 나뉜다.
• 연구는 책임성이 단일 개념이 아니라 맥락, 참여자, 메커니즘에 의해 형성되는 다층적 과정임을 드러낸다.
• 시스템 투명성, 감사 가능성, 이해관계자 참여 등의 책임성 촉진 요소가 책임성 잠재력을 크게 향상시킨다.
• 문헌은 조직적 주체를 책임 있는 주체로 강조하지만, 클라우드 플랫폼, 오픈소스 커뮤니티 등 새로운 인공지능 개발 모델이 이 가정을 도전하고 있다.
• 제안된 차원들에 대한 실증적 검증이 뚜렷하게 부족함을 확인하여 향후 정성적 및 정량적 연구의 필요성을 제기한다.
• 이 프레임워크는 법적, 기술적, 사회적 책임성 관점 간의 보다 나은 조율을 가능하게 하며, 다학제적 연구를 위한 공통어휘를 제공한다.