[논문 리뷰] A multilevel framework for AI governance

Hyesun Choung, Prabu David외 1명|arXiv (Cornell University)|2023. 07. 04.

Ethics and Social Impacts of AISocial Sciences인용 수 3

한 줄 요약

이 논문은 정부, 기업, 시민을 상호의존적인 이해관계자로 통합하는 AI를 위한 다층 거버넌스 프레임워크를 제안한다. 이 프레임워크는 전문성, 신뢰성, 이타심이라는 신뢰 차원을 활용하여 윤리 원칙을 실행 가능한 정책과 실천으로 번역한다. 이 프레임워크는 AI 개발을 인간의 가치와 조율하고 사용자 신뢰 및 정책 효과성을 향상시키기 위한 체계적이고 실용적인 접근을 제공한다.

ABSTRACT

To realize the potential benefits and mitigate potential risks of AI, it is necessary to develop a framework of governance that conforms to ethics and fundamental human values. Although several organizations have issued guidelines and ethical frameworks for trustworthy AI, without a mediating governance structure, these ethical principles will not translate into practice. In this paper, we propose a multilevel governance approach that involves three groups of interdependent stakeholders: governments, corporations, and citizens. We examine their interrelationships through dimensions of trust, such as competence, integrity, and benevolence. The levels of governance combined with the dimensions of trust in AI provide practical insights that can be used to further enhance user experiences and inform public policy related to AI.

연구 동기 및 목표

• 구체적인 거버넌스 모델을 설계하여 윤리적 AI 원칙과 실제 구현 간 격차를 해소하는 것.
• 신뢰할 수 있는 AI 시스템을 유지하는 데 있어 정부, 기업, 시민의 상호의존적 역할을 규명하는 것.
• 전문성, 신뢰성, 이타심이라는 신뢰 차원을 통해 추상적인 윤리 원칙을 실천 가능한 것으로 전환하는 것.
• AI 시스템의 공공 정책 및 사용자 경험 설계에 실질적인 통찰을 제공하는 것.
• AI 윤리 지침과 실질적 거버넌스 메커니즘 사이의 격차를 메우는 것.

제안 방법

• 프레임워크는 국가(정부), 조직(기업), 사회(시민)의 세 수준 거버넌스로 구성되며, 각 수준은 고유한 책임을 맡는다.
• 신뢰는 세 가지 차원으로 구체화된다: 전문성(기술적·기관적 능력), 신뢰성(윤리적 일관성), 이타심(사용자 최선의 이익을 위한 의지).
• 이해관계자 간 상호의존성은 피드백 루프와 공동 책임 메커니즘을 통해 모델링된다.
• 프레임워크는 윤리 원칙과 제도 설계를 통합하여 투명성, 책임성, 참여형 거버넌스를 강조한다.
• 실용적 적용을 보장하기 위해 거버넌스, 윤리학, 사회과학 분야의 다학제적 이론을 기반으로 한다.
• 개념적 분석을 통해 검증되었으며, 디지털 거버넌스 분야의 기존 정책 및 윤리 프레임워크와의 일치성을 확보하였다.

실험 결과

연구 질문

• RQ1 어떻게 윤리적 AI 원칙을 효과적으로 운영 가능한 거버넌스 메커니즘으로 번역할 수 있는가?
• RQ2 정부, 기업, 시민은 신뢰할 수 있는 AI 시스템을 유지하는 데 어떤 역할을 하는가?
• RQ3 전문성, 신뢰성, 이타심이라는 신뢰 차원은 AI 거버넌스에 어떻게 기여하거나 저해하는가?
• RQ4 이해관계자 간 상호의존성은 AI 거버넌스 성과를 어떻게 향상시킬 수 있는가?
• RQ5 이 프레임워크는 공공 정책에 어떻게 기여하고 AI에 대한 사용자 신뢰를 어떻게 향상시킬 수 있는가?

주요 결과

• 다층 프레임워크는 이해관계자 간 추상적인 윤리 원칙을 구체적인 거버넌스 책임으로 전환할 수 있도록 한다.
• 전문성, 신뢰성, 이타심이라는 신뢰 차원은 AI 거버넌스 효과성을 평가하기 위한 측정 가능하고 실행 가능한 기준으로 기능한다.
• 정부, 기업, 시민 간 상호의존성은 책임성을 강화하고 AI 구현 과정에서의 윤리적 이탈 위험을 줄인다.
• 프레임워크는 글로벌 AI 거버넌스에서 다양한 규제 및 문화적 맥락에 적용 가능한 확장 가능한 모델을 제공한다.
• 신뢰 차원의 통합은 AI 시스템 설계 및 정책 이행 개선을 위한 실질적인 시각을 제공한다.
• 프레임워크는 디지털 거버넌스 분야의 향후 정책 개발 및 제도 설계를 위한 기초 도구로 위치한다.