[논문 리뷰] Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance

Matti Mäntymäki, Matti Minkkinen외 2명|arXiv (Cornell University)|2022. 06. 01.

Ethics and Social Impacts of AI인용 수 31

한 줄 요약

AI 윤리를 실무로 번역하기 위한 조직 AI 거버넌스의 hourglass model을 소개하고, 시스템 수명주기 전반에 걸쳐 환경, 조직, 및 AI 시스템 수준을 연결하여 European AI Act와 일치시킨다.

ABSTRACT

The organizational use of artificial intelligence (AI) has rapidly spread across various sectors. Alongside the awareness of the benefits brought by AI, there is a growing consensus on the necessity of tackling the risks and potential harms, such as bias and discrimination, brought about by advanced AI technologies. A multitude of AI ethics principles have been proposed to tackle these risks, but the outlines of organizational processes and practices for ensuring socially responsible AI development are in a nascent state. To address the paucity of comprehensive governance models, we present an AI governance framework, the hourglass model of organizational AI governance, which targets organizations that develop and use AI systems. The framework is designed to help organizations deploying AI systems translate ethical AI principles into practice and align their AI systems and processes with the forthcoming European AI Act. The hourglass framework includes governance requirements at the environmental, organizational, and AI system levels. At the AI system level, we connect governance requirements to AI system life cycles to ensure governance throughout the system's life span. The governance model highlights the systemic nature of AI governance and opens new research avenues into its practical implementation, the mechanisms that connect different AI governance layers, and the dynamics between the AI governance actors. The model also offers a starting point for organizational decision-makers to consider the governance components needed to ensure social acceptability, mitigate risks, and realize the potential of AI.

연구 동기 및 목표

• AI 관련 위험과 피해(예: 편향, 차별)를 조직의 AI 사용에서 다루기 위한Motivate addressing AI-related risks and harms (e.g., bias, discrimination) in organizational AI use.
• AI 원칙을 실천으로 번역하기 위한 포괄적인 거버넌스 프레임워크를 제공한다.
• 조직의 AI 거버넌스를 앞으로 다가올 규제 기준(EU AI Act)에 맞추도록 한다.
• 환경, 조직 및 AI 시스템 수준을 포함하는 수명주기 정보에 기반한 거버넌스 접근 방식을 제시한다.

제안 방법

• AI 시스템을 개발·활용하는 조직을 위한 구조로서 hourglass 거버넌스 프레임워크를 제안한다.
• 거버넌스 요구사항을 환경, 조직 및 AI 시스템 수준에 매핑한다.
• 시스템 수명주기에 걸쳐 거버넌스가 작동하도록 AI 시스템 거버넌스를 연결한다.
• 거버넌스 층을 연결하는 메커니즘의 필요성과 AI 거버넌스의 체계적 특성을 강조한다.
• 거버넌스 메커니즘과 행위자 역학에 대한 실용적 구현 및 향후 연구 방향을 시사한다.

실험 결과

연구 질문

• RQ1 윤리적 AI 원칙을 조직 전반의 실용적 거버넌스로 어떻게 번역할 수 있는가?
• RQ2 환경, 조직 및 AI 시스템 수준이 AI 거버넌스에서 어떻게 상호작용하여 사회적 수용성과 위험 완화를 보장하는가?
• RQ3 거버넌스를 기존 또는 다가오는 규제(EU AI Act)와 어떻게 정렬할 수 있는가?
• RQ4 다른 AI 거버넌스 층과 행위자를 연결하는 메커니즘은 무엇이며 시스템 수명주기 전반에 걸쳐 책임 있는 AI를 어떻게 지원하는가?

주요 결과

• hourglass model을 조직의 AI 사용에 대한 거버넌스 프레임워크로 소개한다.
• 환경, 조직 및 AI 시스템 수준에 걸친 AI 거버넌스의 체계적이고 다층적인 특성을 강조한다.
• AI 시스템 수명 주기에 거버넌스 요구사항을 연결하여 시스템의 전체 수명 기간 동안 거버넌스를 지원한다.
• 실용적 구현, 층 간 메커니즘, 행위자 역학에 대한 새로운 연구 방향을 식별한다.
• 사회적 수용성과 위험 완화를 실현하는 거버넌스 구성 요소를 정책 결정자들이 고려할 수 있는 출발점을 제공한다.