[논문 리뷰] From What to How. An Overview of AI Ethics Tools, Methods and Research to Translate Principles into Practices.

Jessica Morley, Luciano Floridi외 2명|arXiv (Cornell University)|2019. 05. 15.

Ethics and Social Impacts of AI인용 수 41

한 줄 요약

이 논문은 기계 학습 파이프라인에서의 AI 윤리 원칙과 그 구현 간 격차를 메우기 위한 실용적인 분류 체계를 제안하며, 각 단계에서 개발자가 실행 가능한 방법을 적용할 수 있도록 한다. 윤리 원칙의 '무엇'을 실천 가능한 '어떻게'로 번역하는 데 중점을 두고, 윤리의 구현을 가능하게 하는 핵심 도구와 연구 필요성을 규명한다.

ABSTRACT

The debate about the ethical implications of Artificial Intelligence dates from the 1960s. However, in recent years symbolic AI has been complemented and sometimes replaced by Neural Networks and Machine Learning techniques. This has vastly increased its potential utility and impact on society, with the consequence that the ethical debate has gone mainstream. Such debate has primarily focused on principles - the what of AI ethics - rather than on practices, the how. Awareness of the potential issues is increasing at a fast rate, but the AI community's ability to take action to mitigate the associated risks is still at its infancy. Therefore, our intention in presenting this research is to contribute to closing the gap between principles and practices by constructing a typology that may help practically-minded developers apply ethics at each stage of the pipeline, and to signal to researchers where further work is needed. The focus is exclusively on Machine Learning, but it is hoped that the results of this research may be easily applicable to other branches of AI. The article outlines the research method for creating this typology, the initial findings, and provides a summary of future research needs.

연구 동기 및 목표

• 기계 학습 시스템에서 AI 윤리 원칙과 그 실질적 구현 간 점점 커지는 격차를 해소하기 위해.
• 기계 학습 파이프라인 전 단계에서 윤리를 적용하는 데 도움이 되는 체계적인 분류 체계를 개발하기 위해.
• 실제 AI 개발 현장에서 윤리 원칙을 실천 가능한 도구와 방법으로 구현할 수 있도록 하는 실용적 수단을 강조하기 위해.
• 이론적 원칙을 넘어서 응용 가능한 AI 윤리 분야를 발전시키기 위한 핵심 연구 격차를 제시하기 위해.
• 기계 학습을 넘어 다른 AI 분야로도 적용 가능한 기반을 제공하기 위해, 실질적 구현에 중점을 두기 위해.

제안 방법

• 기존 AI 윤리 도구, 방법, 연구를 체계적으로 분석하여 개발 단계별 패턴을 파악하고 분류하기 위해.
• 기계 학습 파이프라인의 특정 단계(예: 데이터 수집, 모델 훈련, 배포)에 윤리적 고려사항을 맵핑하는 분류 체계를 구축하기 위해.
• 각 파이프라인 단계 내에서 기능별로 도구를 분류하기 위해(예: 편향 탐지, 공정성 평가, 해석 가능성 기법 등).
• 주제적 및 功能적 분석을 통해 메서드를 그 목적과 ML 라이프사이클 내 통합 지점에 따라 그룹화하기 위해.
• 각 도구나 방법의 성숙도와 실제 개발 환경에서의 적용 가능성을 평가하기 위해.
• 반복적인 한계와 개발이 미흡한 분야를 식별하여 향후 연구 우선순위를 안내하기 위해.

실험 결과

연구 질문

• RQ1 기계 학습 개발 파이프라인 내에서 AI 윤리 원칙을 체계적으로 실행 가능한 실천으로 번역하는 방법은 무엇인가요?
• RQ2 기계 학습 라이프사이클의 다양한 단계에서 윤리적 구현을 지원하기 위해 현재 어떤 유형의 도구와 방법이 이용 가능한가요?
• RQ3 기계 학습 파이프라인의 어느 단계에서 기존 윤리 도구와 방법이 가장 부족한가요?
• RQ4 AI 윤리 원칙의 효과적 구현을 방해하는 핵심 연구 및 도구 부문의 격차는 무엇인가요?
• RQ5 제안된 분류 체계는 기계 학습 외의 광범위한 AI 분야로 어떻게 확장하거나 적응시킬 수 있나요?

주요 결과

• 윤리 도구와 방법을 기계 학습 파이프라인의 특정 단계에 맵핑할 수 있는 종합적인 분류 체계가 개발되어 윤리의 체계적 적용이 가능해졌다.
• 다수의 기존 도구가 모델 개발 중 통합하기보다는 후행 평가에 집중하고 있어, 사전적 윤리 지원의 격차가 드러났다.
• 가장 성숙한 도구는 모델의 해석 가능성과 공정성 평가 분야이며, 데이터 중심 윤리 도구는 여전히 개발이 미흡한 상태이다.
• 전체 ML 라이프사이클에 걸쳐 윤리적 의사결정을 지원하는 표준화되고 스케일이 가능하며 통합된 도구의 부족함이 두드러진다.
• 연구에서는 윤리 도구 간 상호운용성, 실시간 모니터링, 개발자 우도의 인터페이스 등 핵심 연구 필요성이 규명되었다.
• 이 분류 체계는 윤리 원칙을 실제 AI 시스템에 적용하는 데 있어 실무자와 연구자 모두에게 기반을 제공한다.