[논문 리뷰] Implementing AI Ethics: Making Sense of the Ethical Requirements

Mamia Agbese, Rahul Mohanani외 2명|arXiv (Cornell University)|2023. 06. 11.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 중간 및 상위 수준 소프트웨어 공학(SE) 경영진이 실질적으로 AI 윤리 기준을 구현할 수 있도록 애자일 포트폴리오 관리 프레임워크 내에서 윤리적 리스크 요구사항 스택을 제안한다. 연구 결과, 기밀성 및 데이터 거버넌스는 법적 준수로 간주되지만, 기술적 내구성, 안전성, 사회적 복지와 같은 윤리적 요구사항은 리스크 및 지속 가능성 요구사항으로서 가장 효과적으로 구현되며, 이는 관리 관행 내에서의 가시성과 통합도 크게 향상시킨다.

ABSTRACT

Society's increasing dependence on Artificial Intelligence (AI) and AI-enabled systems require a more practical approach from software engineering (SE) executives in middle and higher-level management to improve their involvement in implementing AI ethics by making ethical requirements part of their management practices. However, research indicates that most work on implementing ethical requirements in SE management primarily focuses on technical development, with scarce findings for middle and higher-level management. We investigate this by interviewing ten Finnish SE executives in middle and higher-level management to examine how they consider and implement ethical requirements. We use ethical requirements from the European Union (EU) Trustworthy Ethics guidelines for Trustworthy AI as our reference for ethical requirements and an Agile portfolio management framework to analyze implementation. Our findings reveal a general consideration of privacy and data governance ethical requirements as legal requirements with no other consideration for ethical requirements identified. The findings also show practicable consideration of ethical requirements as technical robustness and safety for implementation as risk requirements and societal and environmental well-being for implementation as sustainability requirements. We examine a practical approach to implementing ethical requirements using the ethical risk requirements stack employing the Agile portfolio management framework.

연구 동기 및 목표

• 중간 및 상위 수준의 SE 경영진이 AI 시스템의 윤리적 요구사항을 어떻게 이해하고 구현하는지 조사하기.
• 대부분의 연구가 기술적 개발에 집중하는 바에 비해, 경영 수준에서 실질적인 윤리적 요구사항 이행의 격차를 해소하기.
• 윤리적 요구사항을 리스크 및 지속 가능성 프레임워크와 연결함으로써 관리 과정 내에서 더 가시적이고 실행 가능하도록 만들 수 있는 방법 탐색하기.
• 기존의 애자일 포트폴리오 관리 도구를 활용해 윤리적 요구사항을 관리 의사결정에 효과적으로 통합할 수 있는 실용적이고 확장 가능한 접근법 개발하기.

제안 방법

• 핀란드의 중간 및 상위 수준 경영직 소프트웨어 공학 관리자 10명을 대상으로 반구조화된 인터뷰를 실시하였다.
• 윤리적 요구사항의 기준 프레임워크로 유럽연합의 신뢰할 수 있는 AI 윤리 지침을 활용하였다.
• 애자일 포트폴리오 관리 프레임워크를 적용하여 윤리적 요구사항이 현재 어떻게 고려되고 있는지 분석하였다.
• 윤리적 요구사항을 리스크 및 지속 가능성 문제로 구체화하기 위해 '윤리적 리스크 요구사항 스택'을 개발하였다.
• 실제 적용을 위해 윤리적 요구사항을 기술적 내구성, 안전성, 사회적 복지, 환경 지속 가능성으로 매핑하였다.
• 기존의 간소화된 도구 및 프로세스를 활용해 윤리적 요구사항을 기존 관리 관행에 통합할 수 있는 가능성 평가하였다.

Figure 1. Thematic analysis

실험 결과

연구 질문

• RQ1 중간 및 상위 수준의 SE 경영진은 윤리적 요구사항을 어떻게 이해하는가?
• RQ2 중간 및 상위 경영 수준에서 윤리적 요구사항은 어떤 가치를 갖는가?
• RQ3 윤리적 요구사항의 가치를 경영 의사결정에서 어떻게 향상시킬 수 있는가?
• RQ4 중간 및 상위 수준의 SE 경영에서 윤리적 요구사항은 현재 어떻게 이행되고 있는가?
• RQ5 기존의 관리 프레임워크를 활용해 윤리적 요구사항을 어떻게 실질적으로 이행할 수 있는가?

주요 결과

• 경영진은 주로 기밀성 및 데이터 거버넌스와 관련해 윤리적 요구사항을 법적 또는 규제 의무로 간주하며, 더 넓은 윤리 원칙은 고려하지 않는 경향이 있다.
• 기술적 내구성과 안전성은 리스크 요구사항으로 간주되는 반면, 사회적 복지 및 환경적 지속 가능성은 지속 가능성 요구사항으로 프레임워크화되어 있어 실질적인 통합으로의 전환을 보여준다.
• 윤리적 요구사항의 가치는 재무적 이익으로서는 인식되지 않지만, 리스크 및 지속 가능성 요구사항으로 통합될 경우 가시성과 전략적 관련성이 향상된다.
• 실용적인 접근으로 '윤리적 리스크 요구사항 스택'을 활용하면 기존의 애자일 포트폴리오 관리 도구 및 프로세스를 통해 경영진이 윤리적 요구사항을 이행할 수 있다.
• 본 연구는 윤리적 요구사항이 추상적인 윤리 원칙이 아니라 리스크 및 지속 가능성 문제로 재구성될 때 가장 효과적으로 이행됨을 밝혀냈다.
• 리스크 관리 분야에 체계적인 윤리적 요구사항 프레임워크가 부족하여 AI 시스템 내에서 취약성과 관리되지 않은 윤리적 리스크가 발생하고 있다.

Figure 2. Agile portfolio management (Rautiainen and Vähäniitty, 2011 ; Vähäniitty, 2012 )