[논문 리뷰] Responsible Artificial Intelligence -- from Principles to Practice

Virginia Dignum|arXiv (Cornell University)|2022. 05. 22.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 가치민감설계를 통해 윤리적 원칙을 기술적 설계에 통합함으로써 책임감 있는 AI를 위한 통합적 프레임워크를 제안한다. 투명성, 책임성, 이해관계자 포함을 강조하며, 사회적 가치를 시스템 요구사항과 연결함으로써 신뢰성 있는, 가치 기반의 설명 가능한 AI 시스템을 구현하기 위해 Glass Box 프레임워크를 도입한다.

ABSTRACT

The impact of Artificial Intelligence does not depend only on fundamental research and technological developments, but for a large part on how these systems are introduced into society and used in everyday situations. AI is changing the way we work, live and solve challenges but concerns about fairness, transparency or privacy are also growing. Ensuring responsible, ethical AI is more than designing systems whose result can be trusted. It is about the way we design them, why we design them, and who is involved in designing them. In order to develop and use AI responsibly, we need to work towards technical, societal, institutional and legal methods and tools which provide concrete support to AI practitioners, as well as awareness and training to enable participation of all, to ensure the alignment of AI systems with our societies' principles and values.

연구 동기 및 목표

• 실제 시스템에 대한 윤리적 AI 원칙과 그 구현 간의 격차를 해소하기 위해.
• AI가 본질적으로 지능적이거나 마법과 같다는 오해를 바로잡기 위해, AI가 데이터 기반의 알고리즘 도구라는 본질을 명확히 하기 위해.
• 다양한 이해관계자가 윤리적 우선순위와 시스템 요구사항을 정의하는 데 참여함으로써 포괄적이고 가치민감적인 설계를 촉진하기 위해.
• 책임성, 투명성, 공정성을 확보하기 위한 기술적 및 사회법적 방법을 개발하기 위해.
• 책임성과 규제를 혁신의 장벽이 아니라, 신뢰성 있고 지속 가능한 AI 개발을 위한 핵심 추진력으로 재정의하기 위해.

제안 방법

• 추상적인 윤리적 원칙(예: 공정성, 개인정보 보호)을 구체적인 시스템 요구사항으로 번역하기 위해 '가치를 위한 설계' 접근법을 채택하기 위해.
• 투명성 있고 설명 가능한 AI 시스템을 구축하기 위한 모듈식이며 검증 통합형 방법론으로 Glass Box 프레임워크를 도입하기 위해.
• 설계 결정의 가치 추출, 우선순위 정하기, 문서화 과정에서 이해관계자의 참여를 강조하기 위해.
• 데이터 거버넌스, 권력 관계, 사회적 영향 등을 포함하여 AI 개발 수명주기 전반에 걸쳐 사회기술적 고려사항을 통합하기 위해.
• 성능 중심의 AI 개발에서 가치 중심의 설계로의 전환을 위해 원인관계, 추상화, 사전 지식을 통합하기 위해.
• 윤리적 선택을 시스템 행동에 구현하기 위해 체계적인 도덕적 심의 방법(예: 알고리즘 기반, 사용자 제어, 규제 기반)을 사용하기 위해.

실험 결과

연구 질문

• RQ1 공정성, 투명성, 개인정보 보호와 같은 윤리적 원칙은 어떻게 체계적으로 기술적 시스템 요구사항으로 번역될 수 있는가?
• RQ2 AI 설계 과정에서 다양한 이해관계자 간의 포괄적이고 투명한 가치 추출을 가능하게 하는 방법은 무엇인가?
• RQ3 성능나 스케일러빌리티를 희생시키지 않고도 설명 가능하고 검증 가능한 AI 시스템을 어떻게 구축할 수 있는가?
• RQ4 AI에 대한 현재의 서사(마법이거나 필연적인 진전으로 묘사됨)는 책임감 있는 개발을 어떻게 저해하는가?
• RQ5 책임성과 규제는 어떻게 혁신의 장벽이 아니라, AI 개발에서 혁신을 가능하게 하는 요소로 재정의될 수 있는가?

주요 결과

• 세계적으로 다섯 가지 핵심 윤리적 원칙에 대한 공감대가 형성되어 있다: 투명성, 정의와 공정성, 해로움 방지, 책임성, 개인정보 보호.
• 윤리적 원칙에 대한 광범위한 합의에도 불구하고, 그 실천적 해석과 구현은 조직과 지침 간에 상당한 차이를 보인다.
• AI는 지능적이거나 마법이 아니다. 패턴, 입력 데이터의 품질, 설계 선택에 의존하는 데이터 기반의 통계적 도구이며, 이로 인해 데이터와 알고리즘 결정은 깊이 정치적인 성격을 띤다.
• Glass Box 프레임워크는 가치 기반 설계를 형식적 검증 방법과 통합함으로써 모듈식이며 검증 가능하고 투명한 AI 시스템을 가능하게 한다.
• 성능 중심에서 가치 중심의 AI 개발로의 전환은 원인관계, 추상화, 사전 지식을 통합함으로써 AI 혁신의 재고를 요구한다.
• 책임감 있는 AI는 편향을 완화하거나 공정성을 확보하는 것을 넘어서, AI가 어떻게 기획되고 구축되고 거버넌스되는지에 대한 종합적이고 체계적인 전환이다.