[논문 리뷰] Understanding artificial intelligence ethics and safety

David Leslie|arXiv (Cornell University)|2019. 06. 11.

Ethics and Social Impacts of AI참고 문헌 276인용 수 136

한 줄 요약

이 논문은 공공 부문에서 AI의 잠재적 해를 식별하고 거버넌스, 책임 있는 혁신, 인간 중심의 해석 가능한 AI에 대한 운영적 조치를 제안하는 가이드를 제시합니다.

ABSTRACT

A remarkable time of human promise has been ushered in by the convergence of the ever-expanding availability of big data, the soaring speed and stretch of cloud computing platforms, and the advancement of increasingly sophisticated machine learning algorithms. Innovations in AI are already leaving a mark on government by improving the provision of essential social goods and services from healthcare, education, and transportation to food supply, energy, and environmental management. These bounties are likely just the start. The prospect that progress in AI will help government to confront some of its most urgent challenges is exciting, but legitimate worries abound. As with any new and rapidly evolving technology, a steep learning curve means that mistakes and miscalculations will be made and that both unanticipated and harmful impacts will occur. This guide, written for department and delivery leads in the UK public sector and adopted by the British Government in its publication, 'Using AI in the Public Sector,' identifies the potential harms caused by AI systems and proposes concrete, operationalisable measures to counteract them. It stresses that public sector organisations can anticipate and prevent these potential harms by stewarding a culture of responsible innovation and by putting in place governance processes that support the design and implementation of ethical, fair, and safe AI systems. It also highlights the need for algorithmically supported outcomes to be interpretable by their users and made understandable to decision subjects in clear, non-technical, and accessible ways. Finally, it builds out a vision of human-centred and context-sensitive implementation that gives a central role to communication, evidence-based reasoning, situational awareness, and moral justifiability.

연구 동기 및 목표

• 공공 부문에서 AI 시스템이 야기하는 잠재적 해를 식별한다.
• 해를 차단하기 위한 구체적이고 운영적인 조치를 제안한다.
• 거버넌스 프로세스와 책임 있는 혁신 문화를 촉진한다.
• 의사 결정 참여자에게 AI 결과의 해석 가능하고 비기술적 설명을 옹호한다.
• 인간 중심적이고 상황에 민감한 AI 구현의 비전을 구축한다.

제안 방법

• 공공 부문 맥락에서의 AI 해와 거버넌스 필요성의 현황 검토.
• 구체적이고 운영적인 거버넌스 조치와 책임 있는 혁신 관행을 제안한다.
• 사용자가 해석할 수 있도록 알고리즘으로 보조된 결과의 해석 가능성 필요성을 강조한다.
• AI 배치에서 커뮤니케이션, 증거 기반 추론, 상황 인식, 도덕적 정당성을 옹호한다.

실험 결과

연구 질문

• RQ1 공공 부문 환경에서 AI 시스템이 어떤 잠재적 해를 초래할 수 있는가?
• RQ2 이러한 해를 예측하고 방지할 수 있는 거버넌스 프로세스와 관행은 무엇인가?
• RQ3 비기술적 의사결정자와 이해당사자가 AI 결과를 해석하고 이해할 수 있도록 어떻게 할 수 있는가?
• RQ4 공공 부문에서 인간 중심적이고 상황에 민감한 AI 구현의 특징은 무엇인가?

주요 결과

• AI 혁신은 사회적 공공재의 정부 제공을 개선할 수 있지만 합법적 위험과 잠재적 해를 수반한다.
• 해를 예측하고 방지하려면 거버넌스와 책임 있는 혁신 문화가 필수적이다.
• 알고리즘적 결과는 명확하고 비전문가용 용어로 사용자에게 해석 가능하고 설명 가능해야 한다.
• 구현은 인간 중심적이고 상황에 민감해야 하며 커뮤니케이션, 증거 기반 추론, 상황 인식에 기초해야 한다.
• 도덕적 정당성은 정부 맥락에서의 AI 시스템 설계 및 배치의 핵심이어야 한다.