[논문 리뷰] The Sanction of Authority: Promoting Public Trust in AI

Bran Knowles, John T. Richards|arXiv (Cornell University)|2021. 01. 22.

Ethics and Social Impacts of AI참고 문헌 33인용 수 13

한 줄 요약

이 논문은 기관적 신뢰와 구성이론을 바탕으로 한 규제 생태계를 제안하여 공공의 인공지능에 대한 불신을 해결하고자 한다. 연구는 외부에서 검증 가능한 인공지능 문서화와 이행 가능한 규칙—단순한 기술적 투명성보다도 더 중요하다—이 사회에 신뢰할 수 있는 인공지능를 통합하는 데 필수적이라고 주장한다. 주요 기여는 사용자 중심 신뢰 메커니즘보다 공공의 책임과 기관의 제재를 중심으로 하는 신뢰할 수 있는 인공지능을 재정의하는 이론적 모델이다.

ABSTRACT

Trusted AI literature to date has focused on the trust needs of users who knowingly interact with discrete AIs. Conspicuously absent from the literature is a rigorous treatment of public trust in AI. We argue that public distrust of AI originates from the under-development of a regulatory ecosystem that would guarantee the trustworthiness of the AIs that pervade society. Drawing from structuration theory and literature on institutional trust, we offer a model of public trust in AI that differs starkly from models driving Trusted AI efforts. This model provides a theoretical scaffolding for Trusted AI research which underscores the need to develop nothing less than a comprehensive and visibly functioning regulatory ecosystem. We elaborate the pivotal role of externally auditable AI documentation within this model and the work to be done to ensure it is effective, and outline a number of actions that would promote public trust in AI. We discuss how existing efforts to develop AI documentation within organizations -- both to inform potential adopters of AI components and support the deliberations of risk and ethics review boards -- is necessary but insufficient assurance of the trustworthiness of AI. We argue that being accountable to the public in ways that earn their trust, through elaborating rules for AI and developing resources for enforcing these rules, is what will ultimately make AI trustworthy enough to be woven into the fabric of our society.

연구 동기 및 목표

• 신뢰할 수 있는 인공지능 문헌에서 공공 신뢰의 격차를 해결하기 위해, 기존 연구가 주로 개인 사용자 상호작용에 집중한 데 반해 사회 수준의 신뢰에 초점을 맞추고자 한다.
• 공공이 인공지능에 대해 불신하는 데에는 기술적 신뢰성과 책임을 보장하는 기능하는 규제 생태계의 부재가 핵심 원인임을 주장한다.
• 구성 이론과 기관적 신뢰를 기반으로 한 이론적 모델을 개발하여, 공공의 신뢰를 기관의 제재보다 사용자 중심의 신뢰 메커니즘보다 중심에 두고 공공의 책임을 강조한다.
• 외부에서 검증 가능한 인공지능 문서화가 공공의 책임과 규제 이행을 위한 핵심 수단으로서의 역할을 부각한다.
• 인공지능이 사회의 기초에 통합될 수 있도록 하기 위해 규칙 수립 및 이행 메커니즘과 같은 체계적 변화를 주장한다.

제안 방법

• 구성 이론을 적용하여 기관적 구조와 규칙이 인공지능 배치와 공공 신뢰를 어떻게 규제하는지 분석한다.
• 기관적 신뢰 문헌을 활용하여 공공 신뢰가 단순한 기술적 설명 가능성보다는 신뢰할 수 있고 이행 가능한 감시 메커니즘에 의존한다고 프레임워크화한다.
• 공공 신뢰가 개인의 인공지능 상호작용이 아니라 눈에 보이고 기관화된 규제 과정에서 유래된다는 모델을 제안한다.
• 외부에서 검증 가능한 인공지능 문서화를 기관의 책임의 핵심 구성 요소로 강조하여, 공공 및 제3자 감시를 가능하게 한다.
• 규칙 수립, 이행 자원, 인공지능 거버넌스에 대한 공공 참여를 포함한 종합적인 규제 생태계를 조성하기 위한 조치를 제시한다.
• 윤리위원회 등을 위한 기업 내 문서화 노력과 같은 기존 조직의 인공지능 문서화 노력은 공공에 대한 책임 메커니즘이 없이선 부족하다고 대비한다.

실험 결과

연구 질문

• RQ1 기술적 투명성과 설명 가능성의 진전에도 불구하고 인공지능에 대한 공공 신뢰가 왜 여전히 미발달 상태에 머물러 있는가?
• RQ2 규제 및 감시와 같은 기관적 메커니즘이 인공지능 시스템에 대한 공공 신뢰에 어떻게 기여할 수 있는가?
• RQ3 외부에서 검증 가능한 인공지능 문서화는 공공의 책임과 신뢰를 어떻게 가능하게 하는가?
• RQ4 기능하는 규제 생태계의 부재는 인공지능에 대한 공공 신뢰를 어떻게 약화시키는가?
• RQ5 사용자 중심 신뢰 모델에서 사회 전반의 신뢰로 전환하기 위해 어떤 체계적 변화가 필요한가?

주요 결과

• 인공지능에 대한 공공 신뢰의 부족은 주로 인공지능 시스템이 신뢰할 만하고 책임감 있게 작동하도록 보장하는 규제 생태계의 미발달에 기인한다.
• 기존 기업 내 인공지능 문서화 노력은 필요하지만 공공의 시야와 이행 가능성 부족으로 인해 공공 신뢰를 구축하는 데에는 부족하다.
• 외부에서 검증 가능한 인공지능 문서화는 기관적 신뢰의 핵심 구성 요소로서, 인공지능 시스템에 대한 공공 및 제3자 감시를 가능하게 한다.
• 이행 가능한 규칙과 감시 메커니즘이 포함된 종합적인 규제 생태계는 사회에 신뢰할 수 있는 인공지능를 통합하는 데 필수적이다.
• 공공 신뢰는 기술적 투명성만으로는 달성되지 않으며, 기관의 제재와 눈에 보이는 책임 구조가 필요하다.
• 제안된 모델은 사용자 중심 신뢰에서 기관 중심 신뢰로의 전환을 통해 신뢰할 수 있는 인공지능 연구의 초점을 재정의하며, 기술적 설계만이 아니라 체계적 거버넌스의 중요성을 강조한다.