[논문 리뷰] Principles to Practices for Responsible AI: Closing the Gap

Daniel Schiff, Bogdana Rakova외 3명|arXiv (Cornell University)|2020. 06. 08.

Ethics and Social Impacts of AI참고 문헌 28인용 수 62

한 줄 요약

본 논문은 고수준의 책임 있는 AI 원칙이 왜 실무로 번역되지 않는지 분석하고 간격을 메우기 위한 영향 평가를 제안한다. 특히 IEEE 7010을 프레임워크로 제시하며, 산림 회복 사례 연구를 통해 이를 설명한다.

ABSTRACT

Companies have considered adoption of various high-level artificial intelligence (AI) principles for responsible AI, but there is less clarity on how to implement these principles as organizational practices. This paper reviews the principles-to-practices gap. We outline five explanations for this gap ranging from a disciplinary divide to an overabundance of tools. In turn, we argue that an impact assessment framework which is broad, operationalizable, flexible, iterative, guided, and participatory is a promising approach to close the principles-to-practices gap. Finally, to help practitioners with applying these recommendations, we review a case study of AI's use in forest ecosystem restoration, demonstrating how an impact assessment framework can translate into effective and responsible AI practices.

연구 동기 및 목표

• 책임 있는 AI 원칙이 조직 실무로 번역되지 않는 이유를 설명한다.
• 복잡성, 책임 소재의 분산, 학문 간 차이 등 원칙-실천 격차의 주요 원인을 식별한다.
• 영향 평가를 중심으로 한 책임 있는 AI를 위한 효과적인 프레임워크를 제안한다.
• IEEE 7010의 행복/웰빙 영향 평가가 격차를 좁히는 실용적 모범 사례임을 주장한다.
• 실행 가능한 실천을 보여주기 위해 산림 생태계 회복을 위한 AI에 대한 사례 연구를 통해 적용 가능성을 입증한다.

제안 방법

• 기존의 책임 있는 AI 원칙과 실제 적용 간의 격차를 검토한다.
• 격차의 다섯 가지 설명을 개요화한다: 복잡성, 책임 분포, 학문 간 차이, 도구의 풍부함, 그리고 업무 분업.
• 포괄적이고 운용 가능하며 유연하고 반복적이며 가이드가 있으며 참여적인 효과적 프레임워크의 기준을 제안한다.
• 특히 IEEE 7010을 모범 프레임워크로 삼아 영향 평가를 옹호한다.
• 산림 생태계 회복에 대한 AI 사례 연구에서 프레임워크를 적용하여 실질적 번역을 보여준다.

실험 결과

연구 질문

• RQ1 책임 있는 AI 원칙이 조직 내에서 구체적 실천으로 번역되지 않는 이유는 어떤 요인들인가?
• RQ2 AI 개발 및 배치에서 원칙-실천 격차를 포괄하는 프레임워크가 어떻게 작동할 수 있는가?
• RQ3 특히 IEEE 7010과 같은 영향 평가가 생애주기 전반에 걸쳐 책임 있는 AI 원칙을 운용 가능하게 할 수 있는가?
• RQ4 생태계 회복에 대한 사례 연구가 책임 있는 AI를 안내하기 위해 웰빙 영향 평가를 어떻게 활용하는지 설명하는가?
• RQ5 부문 및 사용 사례에 걸쳐 영향 평가를 조정하기 위해 어떤 지침이 필요한가?

주요 결과

• 격차에 대한 다섯 가지 주요 설명이 있다: AI의 광범위하고 복잡한 영향, 책임 소재의 흐림, 학문 간 차이, 도구의 풍부함, 그리고 조직의 작업 분업.
• 폭넓고 운용 가능하며 유연하고 반복적이며 가이드가 있고 참여적인 영향 평가 프레임워크가 원칙을 실천으로 번역하는 데 도움을 준다.
• IEEE 7010의 웰빙(행복) 영향 평가는 영역을 측정 가능한 지표와 이해관계자 참여에 맵핑하여 실용적 모범 사례를 제공한다.
• 영향 평가는 다양한 사용 사례에 적응 가능하며 시스템과 맥락이 바뀌면 반복적으로 업데이트될 수 있다.
• 단일 도구를 넘어서는 지침이 필요하며, 참여적 프레임워크 내에서 부문별 및 맥락별 적응을 선호한다.