[논문 리뷰] From What to How: An Initial Review of Publicly Available AI Ethics Tools, Methods and Research to Translate Principles into Practices

Jessica Morley, Luciano Floridi외 2명|arXiv (Cornell University)|2019. 05. 15.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 기계학습 파이프라인에서 AI 윤리 원칙과 실천 구현 사이의 격차를 메우기 위한 유형 체계를 제안한다. 공개된 도구와 방법을 분석함으로써 개발 단계 전반에 걸친 윤리적 실천을 분류하여 개발자들에게 실행 가능한 지침을 제공하고, 추상적인 원칙을 구체적이고 구현 가능한 실천으로 전환하기 위한 향후 연구의 핵심 격차를 규명한다.

ABSTRACT

The debate about the ethical implications of Artificial Intelligence dates from the 1960s. However, in recent years symbolic AI has been complemented and sometimes replaced by Neural Networks and Machine Learning techniques. This has vastly increased its potential utility and impact on society, with the consequence that the ethical debate has gone mainstream. Such debate has primarily focused on principles - the what of AI ethics - rather than on practices, the how. Awareness of the potential issues is increasing at a fast rate, but the AI community's ability to take action to mitigate the associated risks is still at its infancy. Therefore, our intention in presenting this research is to contribute to closing the gap between principles and practices by constructing a typology that may help practically-minded developers apply ethics at each stage of the pipeline, and to signal to researchers where further work is needed. The focus is exclusively on Machine Learning, but it is hoped that the results of this research may be easily applicable to other branches of AI. The article outlines the research method for creating this typology, the initial findings, and provides a summary of future research needs.

연구 동기 및 목표

• 기계학습 시스템에서 AI 윤리 원칙과 그 실천적 구현 사이의 점점 커지는 격차를 해소하기 위해.
• 기계학습 파이프라인의 특정 단계에 윤리적 고려사항을 연결하는 체계적인 유형 체계를 개발하기 위해.
• 각 AI 개발 단계에서 적절한 윤리 도구 및 방법을 선택하고 적용할 수 있도록 실무자들을 안내하기 위해.
• AI 윤리를 구현하기 위해 추가적인 방법론적 개발이 필요한 핵심 연구 격차를 규명하기 위해.
• 추상적인 윤리 원칙(‘무엇’)에서 실행 가능한 실천(‘어떻게’)으로의 전환을 지원하기 위해.

제안 방법

• 저자들은 공개된 AI 윤리 도구, 방법 및 연구 논문에 대한 체계적 검토를 수행했다.
• 이 도구들과 방법들을 기계학습 파이프라인의 적용 단계(예: 데이터 수집, 모델 훈련, 배포)에 따라 분류했다.
• 도구의 주된 윤리적 목적과 기술적 구현 방식을 중심으로 주제 분석을 기반으로 유형 체계를 구축했다.
• 컴퓨터 과학, 윤리학, AI 정책 분야의 다학제적 자료를 활용하여 관련 접근법의 포괄적인 커버리지 확보를 위해 노력했다.
• 각 도구나 방법의 성숙도, 범위 및 적용 가능성을 평가하기 위해 체계적인 프레임워크를 사용했다.
• 최종 유형 체계는 지속적인 개발과 커뮤니티 기여를 지원하기 위해 온라인으로 살아있는 자원으로 공개되었다.

실험 결과

연구 질문

• RQ1 기존의 AI 윤리 도구 및 방법들은 기계학습 파이프라인의 어떤 단계에 분포되어 있는가?
• RQ2 현재 도구들이 주로 다루는 윤리적 우려는 무엇이며, 기존에 확립된 AI 윤리 원칙과 어떻게 일치하는가?
• RQ3 현재 도구의 결함과 격차는 AI 윤리의 실질적 구현을 방해하는 데 어떤 영향을 미치는가?
• RQ4 체계적인 유형 체계는 개발자들과 연구자들이 추상적인 윤리 원칙을 실제 AI 시스템에서 어떻게 실천할 수 있도록 도울 수 있는가?
• RQ5 윤리 원칙과 실천 응용 사이의 격차를 메우기 위해 가장 긴급히 필요로 하는 연구 및 도구 개발의 유형은 무엇인가?

주요 결과

• 122개의 공개된 AI 윤리 도구 및 방법을 기계학습 파이프라인의 특정 단계에 맵핑하는 종합적인 유형 체계가 개발되었다.
• 도구의 대부분은 데이터 및 모델 개발 단계에 집중되어 있으며, 배포 및 모니터링 단계를 다루는 도구는 적다.
• 도구의 15%만이 배포 후 모니터링 또는 지속적인 윤리적 평가를 지원하는 것으로 확인되었다.
• 많은 도구들이 표준 기계학습 워크플로우와 통합되어 있지 않아 개발자들의 실질적 도입에 제한을 받는다.
• 권력 불균형, 소외, 장기적인 사회적 영향과 같은 체계적 문제를 다루는 도구의 부족이 심각하게 나타났다.
• AI 라이프사이클 전반에 걸쳐 다학제적 협업과 윤리적 의사결정을 지원하는 도구의 필요성이 핵심으로 규명되었다.