[논문 리뷰] AI Ethics in Industry: A Research Framework

Ville Vakkuri, Kai‐Kristian Kemell외 1명|arXiv (Cornell University)|2019. 10. 28.

Ethics and Social Impacts of AI참고 문헌 19인용 수 18

한 줄 요약

이 논문은 실증 사례 연구를 바탕으로 산업 현장에서 인공지능 윤리 구현을 위한 연구 프레임워크를 제안한다. 이는 AI 개발 전반에 걸쳐 윤리적 고려사항을 체계화하는 데 초점이 맞춰져 있으며, 연구자와 실무자들이 실제 인공지능 시스템에서 윤리를 연구하고 실행할 수 있도록 실용적이고 진화하는 모델을 제공한다. 산업 적용 사례를 통한 初기 검증 결과가 있다.

ABSTRACT

Artificial Intelligence (AI) systems exert a growing influence on our society. As they become more ubiquitous, their potential negative impacts also become evident through various real-world incidents. Following such early incidents, academic and public discussion on AI ethics has highlighted the need for implementing ethics in AI system development. However, little currently exists in the way of frameworks for understanding the practical implementation of AI ethics. In this paper, we discuss a research framework for implementing AI ethics in industrial settings. The framework presents a starting point for empirical studies into AI ethics but is still being developed further based on its practical utilization.

연구 동기 및 목표

• 산업 현장에서 인공지능 윤리를 구현하기 위한 실용적 프레임워크의 증가하는 필요성을 해결하기 위해.
• 실제 사례 연구를 통해 인공지능 시스템 개발 과정에서의 핵심 윤리적 과제를 식별하고 체계화하기 위해.
• 조직이 인공지능 개발 과정에서 윤리를 어떻게 실천하는지에 대한 실증적 연구를 지원하기 위해.
• 산업 현장 실천을 바탕으로 윤리적 구현 방식을 지속적으로 개선하기 위한 기반을 마련하기 위해.
• 이론적 인공지능 윤리와 산업 현장에서 실행 가능한, 맥락에 특화된 구현 간 격차를 메우기 위해.

제안 방법

• 인공지능 시스템 개발에 중점을 둔 산업 현장에서의 다중 사례 연구 접근을 통해 개발됨.
• 정당성, 투명성, 책임성, 인간의 감시 등 인공지능 윤리의 핵심 차원을 식별함.
• 디자인에서 구현에 이르는 AI 개발 수명주기 단계에 따라 프레임워크를 체계화함.
• 기술 팀, 관리자, 윤리학자 등 다양한 이해관계자의 시각을 통합하여 실제 현장의 복잡성을 반영함.
• 산업 적용을 통해 반복적인 피드백을 활용하여 프레임워크를 보완하고 검증함.
• 윤리적 구현 패턴을 추출하기 위해 인터뷰와 문서의 정성적 분석을 활용함.

실험 결과

연구 질문

• RQ1 산업 조직들은 현재 어떻게 인공지능 시스템 개발 과정에서 윤리를 구현하고 있는가?
• RQ2 윤리적 고려사항을 인공지능 개발 과정에 통합하기 위한 핵심 과제와 성공 요인은 무엇인가?
• RQ3 산업 분야에서 인공지능 윤리에 대한 실증 연구를 지원하기 위해 프레임워크를 어떻게 체계화할 수 있는가?
• RQ4 다양한 이해관계자가 조직 내 윤리적 인공지능 관행을 어떻게 형성하는가?
• RQ5 다양한 산업 맥락에서 실용적 적용을 통해 프레임워크는 어떻게 진화하는가?

주요 결과

• 프레임워크는 윤리적 고려사항을 체계적으로 다뤄야 할 AI 개발의 핵심 단계를 식별한다.
• 기술 팀과 윤리학자 간의 이해관계자 협업은 효과적인 구현을 위해 필수적이다.
• 명확한 지침이 부족하여 추상적인 윤리 원칙을 실천에 옮기는 데 조직이 상당한 과제에 직면해 있다.
• 투명성과 책임성 메커니즘은 산업 인공지능 프로젝트 간에 일관되게 적용되지 않는다.
• 산업 사례 연구를 통한 반복적 피드백을 통해 프레임워크는 적응 가능성을 입증한다.
• 초기 검증 결과, 프레임워크는 인공지능 개발 과정에서 맥락을 고려한 체계적인 윤리적 의사결정을 지원하는 것으로 나타났다.