[논문 리뷰] Responsible AI by Design in Practice

Richard Benjamins, Alberto Barbado외 1명|arXiv (Cornell University)|2019. 09. 27.

Ethics and Social Impacts of AI참고 문헌 35인용 수 36

한 줄 요약

본 논문은 대규모 조직에서 원치 않는 AI 결과를 최소화하기 위한 전사적 방법론 구현의 실제 사례를 제시하며, 기술적 및 조직적 단계들을 강조한다.

ABSTRACT

Recently, a lot of attention has been given to undesired consequences of Artificial Intelligence (AI), such as unfair bias leading to discrimination, or the lack of explanations of the results of AI systems. There are several important questions to answer before AI can be deployed at scale in our businesses and societies. Most of these issues are being discussed by experts and the wider communities, and it seems there is broad consensus on where they come from. There is, however, less consensus on, and experience with how to practically deal with those issues in organizations that develop and use AI, both from a technical and organizational perspective. In this paper, we discuss the practical case of a large organization that is putting in place a company-wide methodology to minimize the risk of undesired consequences of AI. We hope that other organizations can learn from this and that our experience contributes to making the best of AI while minimizing its risks.

연구 동기 및 목표

• AI 배치에서 편향, 차별 및 설명 가능성 문제를 다뤄야 할 필요성을 고취한다.
• 대규모 조직이 전사적 책임 있는 AI 방법론을 구조화하고 실행하는 방식을 설명한다.
• 현실 세계에서 책임 있는 AI 실천을 적용하며 얻은 교훈을 공유한다.

제안 방법

• 전사적으로 책임 있는 AI 설계 방법론을 채택한 대규모 조직의 실용적 사례 연구를 제시한다.
• AI 위험을 최소화하기 위한 기술적 및 조직적 접근법의 통합을 논의한다.
• 책임 있는 AI를 운영화하는 데 사용된 거버넌스 구조, 프로세스 및 워크플로를 강조한다.
• AAAI Fall Symposium의 Human-Centered AI: Trustworthiness 트랙에서의 경험에서 얻은 통찰을 제공한다.

실험 결과

연구 질문

• RQ1 현실 세계 배치에서 AI의 원치 않는 결과를 최소화하기 위해 조직은 어떤 실용적 단계를 취할 수 있는가?
• RQ2 확대된 규모에서 신뢰할 수 있는 AI를 설계하기 위해 기술적 및 조직적 실천을 어떻게 결합할 수 있는가?
• RQ3 조직에서 책임 있는 AI를 위한 어떤 거버넌스, 위험 관리, 측정 접근법이 효과적인가?

주요 결과

• 현실 세계의 사례는 대규모 조직이 전사적 책임 있는 AI 방법론을 어떻게 구현할 수 있는지 보여준다.
• 책임 있는 AI를 운영화하기 위한 조직적 도전 과제와 촉진 요소에 대한 통찰.
• 실무에서 AI 위험을 최소화하는 데 필요한 거버넌스, 프로세스 및 워크플로우에 대한 논의.
• AAAI Fall Symposium의 Trustworthy AI Models & Data에서 HAi 트랙 참여로부터 얻은 증거.