[논문 리뷰] The Many Facets of Trust in AI: Formalizing the Relation Between Trust and Fairness, Accountability, and Transparency

Bran Knowles, John T. Richards외 1명|arXiv (Cornell University)|2022. 08. 01.

Ethics and Social Impacts of AI인용 수 8

한 줄 요약

이 논문은 인공지능의 신뢰(TAI)의 다면적 성격을 명확히 하기 위해 형식적 옹오로를 개발한다. 이는 사용자, 관리자, 규제 기관 등의 주체(예: 사용자, 관리자, 규제 기관), 인공지능 시스템, 기관 등의 대상(예: 인공지능 시스템, 기관), 설명 가능성, 거버넌스 등의 기반(예: 설명 가능성, 거버넌스), 공정성, 안전성 등의 목적(예: 공정성, 안전성), 행동 변화 등의 영향(예: 행동 변화)을 구분한다. 이 연구는 공정성, 책임성, 투명성(FAT) 문헌에서 TAI가 어떻게 개념화되는지에 대한 일관성 없는 점을 드러내며, 이 옹오로가 개념적 갭을 진단하고 신뢰 증진 노력의 통일성을 향상시키는 데 기여할 수 있음을 보여준다.

ABSTRACT

Efforts to promote fairness, accountability, and transparency are assumed to be critical in fostering Trust in AI (TAI), but extant literature is frustratingly vague regarding this 'trust'. The lack of exposition on trust itself suggests that trust is commonly understood, uncomplicated, or even uninteresting. But is it? Our analysis of TAI publications reveals numerous orientations which differ in terms of who is doing the trusting (agent), in what (object), on the basis of what (basis), in order to what (objective), and why (impact). We develop an ontology that encapsulates these key axes of difference to a) illuminate seeming inconsistencies across the literature and b) more effectively manage a dizzying number of TAI considerations. We then reflect this ontology through a corpus of publications exploring fairness, accountability, and transparency to examine the variety of ways that TAI is considered within and between these approaches to promoting trust.

연구 동기 및 목표

• 인공지능의 신뢰(TAI)에 대한 개념적 명확성 부족 문제를 해결하기 위해, TAI 문헌에서 다루는 신뢰의 여러 차원을 식별하고 형식화하는 것.
• 공정성, 책임성, 투명성(FAT) 연구에서 신뢰가 어떻게 논의되는지에 대한 일관성 없는 점과 부적합한 정렬을 해결하는 것.
• 다양한 신뢰 개념을 명확히 하고, 더 정밀한 논의와 연구의 정렬을 가능하게 하는 공통의 분석 프레임워크를 개발하는 것.
• FAT 문헌에서 주로 다루는 주체(예: 규제 기관)나 구조적 신뢰와 관련된 신뢰 정당화가 부족하거나 일관성 없이 표현된 점을 진단하는 것.
• 이 옹오로가 AI 윤리 연구 전반에서 진단 및 통합 도구로서의 유용성을 입증하는 것.

제안 방법

• 전문가의 합의와 반복적 검토를 통해 선정한 학술, 산업, 언론 자료 78건의 코퍼스를 구축.
• 주체(누가 신뢰하는가), 대상(무엇이 신뢰받는가), 기반(신뢰가 기초가 되는 바), 목적(왜 신뢰가 요구되는가), 영향(신뢰가 가능하게 하는 바)의 다섯 축으로 구성된 형식적 옹오로를 개발.
• FAT 중심의 출판물 제2의 코퍼스에 이 옹오로를 렌즈로 적용하여 공정성, 책임성, 투명성 분야에서 신뢰가 어떻게 개념화되는지 분석.
• qualitative coding와 주제 분석을 활용해 다양한 연구 분야에서의 신뢰 서사에 나타나는 패턴, 누락, 일관성 없는 점을 식별.
• 신뢰 논의를 이해하는 데 핵심이 되는 세 가지 이상적 유형의 서사—사용자 신뢰, 관리자 신뢰, 구조적 신뢰—를 도출.
• 특히 신뢰 목표와 정당화 요소 간의 괴리(예: 신뢰를 목표로 삼는 것 vs. 설명 가능성으로 정당화하는 것)에 주목하여 FAT 문헌의 수사적·개념적 일관성 여부를 평가.

실험 결과

연구 질문

• RQ1 신뢰의 개념화 방식이 문헌 전반에서 어떻게 다름을 보이며, 주체, 대상, 기반, 목적, 영향의 축에서 나타나는 주요 변동 축은 무엇인가?
• RQ2 왜 많은 FAT 중심 논문들이 '신뢰를 구축하는 것'을 주요 목표로 삼고도 일관된 기반을 제시하지 못하는가(예: 설명 가능성, 거버넌스 등)?
• RQ3 기존의 FAT 연구 노력은 어느 정도 통일된 신뢰 서사에 부합하는가, 그리고 중요한 갭이나 일관성 없는 점은 어디에 있는가?
• RQ4 형식적 옹오로가 공정성, 책임성, 투명성와 관련하여 분산된 TAI 논의를 어떻게 통합하고 명확화하는 데 기여할 수 있는가?
• RQ5 특히 기관과 거버넌스 메커니즘에 대한 신뢰—즉, 구조적 신뢰—는 왜 현재의 TAI 및 FAT 연구에서 개발이 부족한가?

주요 결과

• 옹오로는 인공지능의 신뢰가 단일 개념이 아니라 주체(예: 사용자, 규제 기관), 대상(예: 인공지능 시스템, 기관), 정당화 방식(예: 설명 가능성, 거버넌스)에 따라 상당히 다름을 보임을 성공적으로 드러냈다.
• 많은 공정성 중심 논문들이 '신뢰를 확보하는 것'을 주요 목표로 삼지만, 이를 뒷받침하는 기반은 일관되게 제시되지 않으며, 종종 깊은 정렬 없이 설명 가능성으로 수렴한다.
• 책임성 문헌은 규제 기관이나 기관적 구조의 시각에서 신뢰에 대해 다루지 못한 점이 뚜렷하게 드러나 있으나, 넓은 TAI 논의에서 이러한 신뢰가 요구된다는 주장은 존재한다.
• 많은 논문들 사이에는 명시된 목표인 '신뢰 구축'과 실제 제안된 수단(예: 설명 가능성에 의존) 사이에 수사적 괴리가 존재한다. 이는 구조적 또는 기관적 신뢰를 다루지 못한 채 설명 가능성에만 의존하고 있음을 의미한다.
• 사용자 신뢰, 관리자 신뢰, 구조적 신뢰의 세 가지 이상적 유형의 서사가 분리되어 있지만 일관되게 구분되는 길을 제공하며, 이는 기존에 산산이 흩어진 TAI 논의를 통합하는 데 도움이 된다.
• 옹오로는 기관 거버넌스의 역할이 신뢰 형성에서 부족한 점과 같은 개념적 이상 현상을 효과적으로 진단하며, 향후 연구와 통일성 향상이 필요한 분야를 명확히 한다.