[논문 리뷰] A Framework for Ethical AI at the United Nations

Lambert Hogenhout|arXiv (Cornell University)|2021. 04. 09.

Ethics and Social Impacts of AI인용 수 13

한 줄 요약

이 논문은 인간권리와 유엔 가치에 부합하는 AI를 확보하기 위해 윤리 원칙, 데이터 거버넌스, 아키텍처 기준, 평가 도구, 직원 교육을 통합하는 종합적인 윤리적 AI 프레임워크를 유엔에 제안한다. 이는 위험을 완화하고 유엔 운영 전반에 걸쳐 책임감 있는 AI 도입을 이끄는 체계적이고 다층적인 접근을 주장한다.

ABSTRACT

This paper aims to provide an overview of the ethical concerns in artificial intelligence (AI) and the framework that is needed to mitigate those risks, and to suggest a practical path to ensure the development and use of AI at the United Nations (UN) aligns with our ethical values. The overview discusses how AI is an increasingly powerful tool with potential for good, albeit one with a high risk of negative side-effects that go against fundamental human rights and UN values. It explains the need for ethical principles for AI aligned with principles for data governance, as data and AI are tightly interwoven. It explores different ethical frameworks that exist and tools such as assessment lists. It recommends that the UN develop a framework consisting of ethical principles, architectural standards, assessment methods, tools and methodologies, and a policy to govern the implementation and adherence to this framework, accompanied by an education program for staff.

연구 동기 및 목표

• 유엔 내 AI 사용 증가에 따른 윤리적 위험을 해소하기 위해 체계적인 거버넌스 접근 방식을 수립하기 위해.
• 통합된 윤리적 및 데이터 거버넌스 프레임워크를 통해 AI 개발 및 구현을 기본적인 인권과 유엔 원칙에 맞추기 위해.
• 다양한 운영 환경에서 유엔이 윤리적 AI를 구현할 수 있는 실용적이고 실행 가능한 길을 제공하기 위해.
• 윤리적 심사 및 평가 메커니즘을 통합하여 AI 시스템으로 인한 예상치 못한 피해를 줄이기 위해.
• 직원 교육과 표준화된 방법론을 통해 기관 역량을 제고하기 위해.

제안 방법

• 윤리 원칙과 데이터 거버넌스 기준을 통합한 다성분 프레임워크를 개발하기 위해.
• 윤리적 준수 여부를 평가하기 위한 평가 도구 및 체크리스트를 설계하기 위해.
• 윤리적 고려 사항을 AI 시스템 설계에 통합하기 위해 아키텍처 기준을 수립하기 위해.
• 일관된 구현과 준수를 보장하기 위해 정책 및 감시 메커니즘을 구축하기 위해.
• 기구 인식과 역량을 제고하기 위해 유엔 직원을 대상으로 교육 프로그램을 구축하기 위해.
• 기존 윤리 프레임워크를 참조하고 다자간 정부 간 기구인 유엔의 맥락에 맞게 적응하기 위해.

실험 결과

연구 질문

• RQ1 유엔은 어떻게 체계적으로 자신의 AI 사업에 윤리 원칙을 통합할 수 있는가?
• RQ2 다양한 유엔 기구에서 윤리적 AI 거버넌스를 보장하기 위해 필요한 구조적 구성 요소는 무엇인가?
• RQ3 데이터 거버넌스는 어떻게 AI 윤리와 조율되어 오용을 방지하고 인간권리를 보호할 수 있는가?
• RQ4 유엔 운영에서 AI 시스템의 윤리적 타당성을 효과적으로 평가할 수 있는 평가 도구와 방법론은 무엇인가?
• RQ5 직원 교육과 기관 역량 강화는 어떻게 지속 가능한 윤리적 AI 도입을 지원할 수 있는가?

주요 결과

• 유엔은 책임감 있는 AI 거버넌스를 위해 윤리 원칙, 기술 기준, 평가 도구, 정책 메커니즘의 통합된 통합 프레임워크가 필요하다.
• 윤리적 AI는 데이터 거버넌스와 분리될 수 없으며, 신뢰할 수 있는 AI 시스템을 만드는 데 상호의존적이다.
• 기존 윤리 프레임워크와 평가 도구는 유엔의 맥락에 맞게 적응 및 통합되어 통합된 시스템으로 활용될 수 있다.
• 직원 인식 제고와 윤리 기준의 일관된 적용을 보장하기 위해 전용 교육 프로그램이 필수적이다.
• 제안된 프레임워크는 사전적 위험 완화를 가능하게 하고 인간권리 및 유엔 가치와의 일치를 강화한다.
• 이 프레임워크의 구현은 유엔 주도 AI 사업에서의 투명성, 책임성, 공공 신뢰를 지원한다.