[논문 리뷰] Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study

Ville Vakkuri, Kai‐Kristian Kemell외 3명|Jyväskylä University Digital Archive (University of Jyväskylä)|2019. 06. 19.

Ethics and Social Impacts of AI참고 문헌 18인용 수 23

한 줄 요약

이 논문은 자율 시스템을 개발하는 다섯 개의 기업을 대상으로 한 다중 사례 연구를 통해 이론적 인공지능 윤리 연구와 실제 산업 현장 간 격차를 조사한다. 윤리적 설계를 산업 구현과 일치시키기 위한 실행 가능한 전략을 제안하며, 윤리가 인정되기는 하지만 조직 간에 체계적인 통합은 여전히 일관되지 않음을 드러낸다.

ABSTRACT

Progress in the field of artificial intelligence has been accelerating rapidly in the past two decades. Various autonomous systems from purely digital ones to autonomous vehicles are being developed and deployed out on the field. As these systems exert a growing impact on society, ethics in relation to artificial intelligence and autonomous systems have recently seen growing attention among the academia. However, the current literature on the topic has focused almost exclusively on theory and more specifically on conceptualization in the area. To widen the body of knowledge in the area, we conduct an empirical study on the current state of practice in artificial intelligence ethics. We do so by means of a multiple case study of five case companies, the results of which indicate a gap between research and practice in the area. Based on our findings we propose ways to tackle the gap.

연구 동기 및 목표

• 산업 현장의 실무자들이 자율 시스템 설계에 윤리 원칙을 어떻게 구현하는지 조사하기 위해.
• 학술 분야의 인공지능 윤리 프레임워크와 실제 산업 실천 간의 괴리점을 규명하기 위해.
• 윤리적 AI를 운영화할 때 조직이 겪는 도전 과제와 한계를 이해하기 위해.
• 윤리적 AI 개발의 윤리-실천 격차를 해소하기 위한 실용적이고 산업적으로 관련성이 있는 전략을 제안하기 위해.

제안 방법

• 자율 시스템을 개발하는 다섯 개의 산업 조직을 대상으로 다중 사례 연구를 수행하였다.
• 윤리 통합에 중점을 둔 인터뷰 및 문서 분 析를 통해 정성적 데이터를 수집하였다.
• 윤리적 고려 사항을 실제 개발 프로세스 및 의사결정 프레임워크에 매핑하였다.
• 제품 설계 및 구현 과정에서 윤리가 어떻게 다루어지거나 忽시되는지 패턴을 식별하였다.
• 주제 분석을 통해 윤리적 구현 과정에서 반복되는 과제와 해결책을 추출하였다.
• 실증적 발견 기반으로 윤리적 설계를 산업 워크플로우와 일치시키기 위한 프레임워크를 제안하였다.

실험 결과

연구 질문

• RQ1 산업 조직들은 현재 자율 시스템 설계에 윤리적 고려 사항을 어떻게 통합하고 있는가?
• RQ2 산업 현장에서 AI 윤리의 체계적 구현을 방해하는 주요 장애물은 무엇인가?
• RQ3 학술 분야에서 제안한 이론적 윤리 프레임워크는 실제 개발 실천과 어느 정도 일치하는가?
• RQ4 AI 윤리 연구와 산업 적용 간 격차를 메울 수 있는 실용적 전략은 무엇인가?
• RQ5 조직의 구조와 프로세스는 자율 시스템 개발에서 윤리의 대응 방식에 어떤 영향을 미치는가?

주요 결과

• 이론적 인공지능 윤리 프레임워크와 그 실질적 구현 간에 상당한 격차가 존재한다.
• 윤리적 고려 사항은 종종 핵심 개발 프로세스에 통합되기보다는 후순서적으로 다뤄진다.
• 윤리 검토 절차나 전담 윤리 역할을 공식화한 기업은 소수에 불과하다.
• 윤리적 의사결정은 자주 일시적이고 맥락에 따라 달라지며, 표준화된 절차가 부족하다.
• 조직들은 명확한 지침 부족, 규제의 모호성, 경쟁하는 비즈니스 우선순위를 주요 장애물로 지적한다.
• 윤리적 리스크에 대한 인식은 있으나, 윤리적 설계 선택을 체계적으로 문서화하거나 감사하지 않는 기업이 많다.