[논문 리뷰] AI and Ethics -- Operationalising Responsible AI

Liming Zhu, Xiwei Xu외 3명|arXiv (Cornell University)|2021. 05. 19.

Ethics and Social Impacts of AI참고 문헌 31인용 수 9

한 줄 요약

이 논문은 AI 생애주기 전반에 걸쳐 고수준 원칙, 신뢰/신뢰성, 제품/프로세스 지원을 연결함으로써 윤리적 AI를 실천화하는 통합 프레임워크를 제안한다. 실용적 메커니즘—예를 들어 윤리적 요구사항, 설계 패턴, 지속적 모니터링, 윤리 인증과 같은 거버넌스 모델—을 도입하여 이해관계자 신뢰를 제고하고 실제 AI 시스템에서의 책임성을 확보한다.

ABSTRACT

In the last few years, AI continues demonstrating its positive impact on society while sometimes with ethically questionable consequences. Building and maintaining public trust in AI has been identified as the key to successful and sustainable innovation. This chapter discusses the challenges related to operationalizing ethical AI principles and presents an integrated view that covers high-level ethical AI principles, the general notion of trust/trustworthiness, and product/process support in the context of responsible AI, which helps improve both trust and trustworthiness of AI for a wider set of stakeholders.

연구 동기 및 목표

• 고수준 윤리적 AI 원칙과 실제 시스템에 대한 그 이행 간 격차를 해소하기 위해.
• 기술적 신뢰성과 이해관계자 인식 신뢰 간의 차이를 조율하기 위해.
• 신뢰와 신뢰성을 동시에 향상시키기 위해 제품 수준 및 프로세스 수준의 지원 메커니즘을 통합하기 위해.
• AI 소프트웨어 개발 생애주기(SDLC) 전반에 윤리를 통합하기 위한 실행 가능하고 확장 가능한 방법을 제공하기 위해.
• 윤리 인증 및 영향 평가와 같은 투명성, 책임성, 거버넌스 구조를 통해 이해관계자 신뢰를 제고하기 위해.

제안 방법

• 윤리적 AI 원칙을 세 가지 범주로 분류: 기능 요구사항(예: 인간의 복지), 비기능 요구사항(예: 공정성, 개인정보 보호), 메타 수준 거버넌스 요구사항.
• 요구사항 공학, 가치에 민감한 설계(VSD), 가치 기반 요구사항 공학(가치 우선-RE)을 통한 소프트웨어 공학 프로세스에 윤리 원칙 통합.
• 프라이버시 및 비악행성 등의 윤리적 특성을 설계 시점부터 내재화하는 설계 패턴 및 시스템 아키텍처(예: 신뢰 메커니즘을 갖춘 피어 투 피어 학습) 제안.
• 배포된 AI 모델에서 윤리적 이탈 또는 편향을 탐지하기 위해 지속적 검증 및 모니터링 시스템 구현.
• 내부/외부 윤리 검토, 이해관계자 대표성, AI 윤리 성숙도 인증 체계와 같은 거버넌스 메커니즘 수립.
• 책임성을 특정 역할 및 실체에 연결하여 결론과 AI 자료의 기원 추적을 통해 결정의 추적 가능성을 확보.

실험 결과

연구 질문

• RQ1 고수준 윤리적 AI 원칙은 어떻게 AI 개발 생애주기 전반에 효과적으로 실천될 수 있는가?
• RQ2 기술적 신뢰성과 이해관계자 인식 신뢰 간 격차를 메우는 데 어떤 메커니즘이 기여할 수 있는가?
• RQ3 제품 수준 및 프로세스 수준의 지원을 어떻게 통합하여 AI 시스템의 신뢰와 신뢰성을 동시에 향상시킬 수 있는가?
• RQ4 윤리 검토 및 인증과 같은 거버넌스 구조는 책임감 있는 AI 실천을 정착시키는 데 어떤 역할을 하는가?
• RQ5 요구사항 공학 및 시스템 설계를 포함한 소프트웨어 공학 관행에 윤리 원칙을 체계적으로 통합하는 방법은 무엇인가?

주요 결과

• 고수준 윤리 원칙만으로는 신뢰할 수 있는 AI를 확보하는 데 부족하며, 제품 및 프로세스 수준의 메커니즘과의 통합이 필요하다.
• 기술적 설계 및 데이터 관행에 기반한 신뢰성은 투명성, 설명 가능성, 이해관계자 참여를 통해 인식된 신뢰와 보완되어야 한다.
• 윤리 원칙은 기능 요구사항, 비기능 요구사항, 거버넌스 수준 요구사항으로 실천될 수 있으며, 후자는 이해관계자 신뢰를 제고한다.
• 특히 동적인 환경에서 배포 후 윤리적 리스크를 탐지하기 위해 지속적 모니터링 및 검증 메커니즘이 필수적이다.
• 윤리 성숙도 인증 및 이해관계자 참여를 포함한 검토와 같은 거버넌스 메커니즘은 책임성 향상과 윤리적 AI 실천의 정착화에 크게 기여한다.
• 다양한 배경을 가진 프로젝트 팀과 결정의 기원 추적 가능성이, AI 시스템의 책임성 확보와 편향 감소에 핵심적이다.