[논문 리뷰] Responsible-AI-by-Design: a Pattern Collection for Designing Responsible AI Systems

Qinghua Lu, Liming Zhu외 2명|arXiv (Cornell University)|2022. 03. 02.

Ethics and Social Impacts of AI인용 수 9

한 줄 요약

이 논문은 체계적 문헌 고찰을 바탕으로 시스템 수준의 설계 패턴을 통해 책임감 있는 AI를 AI 시스템에 통합하는 패턴 중심 접근법을 제안한다. 책임감 있는 AI 설계를 위한 실천 가능한 12개의 제품 수준 설계 패턴(예: 윤리적 블랙박스, 윤리적 디지털 트윈, 공버전 레지스트리 등)을 제안하여 개발자와 아키텍트가 AI 생명주기 전반에 걸쳐 책임감 있는 행동, 투명성, 윤리적 준수를 보장할 수 있도록 한다. 이는 책임감 있는 AI 설계를 위한 첫 번째 구체적이고 시스템 수준의 지침을 제공한다.

ABSTRACT

Although AI has significant potential to transform society, there are serious concerns about its ability to behave and make decisions responsibly. Many ethical regulations, principles, and guidelines for responsible AI have been issued recently. However, these principles are high-level and difficult to put into practice. In the meantime much effort has been put into responsible AI from the algorithm perspective, but they are limited to a small subset of ethical principles amenable to mathematical analysis. Responsible AI issues go beyond data and algorithms and are often at the system-level crosscutting many system components and the entire software engineering lifecycle. Based on the result of a systematic literature review, this paper identifies one missing element as the system-level guidance - how to design the architecture of responsible AI systems. We present a summary of design patterns that can be embedded into the AI systems as product features to contribute to responsible-AI-by-design.

연구 동기 및 목표

• 고수준 윤리 원칙과 실제 AI 시스템 구현 간 격차를 해소하기 위해 시스템 수준 설계에 초점을 맞춘다.
• 책임감 있는 AI를 실천 가능하게 하기 위해 재사용 가능한 실천 가능한 설계 패턴을 식별한다.
• 아키텍처 및 개발자에게 AI 소프트웨어 공학 생명주기 전반에 걸쳐 윤리적 고려사항을 통합할 수 있는 생명주기 인지 기반 프레임워크를 제공한다.
• 알고리즘 중심의 책임감 있는 AI 접근 방식의 한계를 극복하기 위해 아키텍처 및 시스템 수준의 해결책을 강조한다.
• 구체적이고 추적 가능하며 실행 가능한 설계 솔루션을 제공함으로써 원칙-알고리즘 격차를 메운다. 이는 실제 AI 개발 관행에 기반한다.

제안 방법

• ACM, IEEE, ScienceDirect, Google Scholar 등의 주요 학술 데이터베이스에서 'AI', 'Responsible', 'Solution' 등의 关련 키워드를 사용해 체계적 문헌 고찰(SLR)을 수행하였다.
• 책임감 있는 AI를 위한 구체적 설계 또는 프로세스 솔루션을 제시하는 논문만 선별하였으며, 고수준 프레임워크나 원칙 중심의 논문은 제외하였다.
• 식별된 솔루션을 하버드 대학교의 윤리 원칙(개인정보 보호, 책임성, 안전성 및 보안, 투명성 및 설명 가능성, 공정성, 인간의 통제, 인간의 가치)에 매핑하였다.
• AI 시스템 생명주기의 상태 또는 전환(예: 준비, 운영, 장애 처리)과 관련된 설계 패턴을 연결하기 위해 AI 시스템 생명주기의 상태 다이어그램을 개발하였다.
• Ethical Black Box, Ethical Digital Twin, Co-versioning Registry 등 이름, 목적, 구조, 적용 가능성 등을 포함한 12개의 시스템 수준 설계 패턴을 제안하였다.
• 설계 패턴을 책임감 있는 AI 패턴 카탈로그에 통합하였으며, 프로세스 점검 목록이나 오프라인 훈련 방식이 아닌 제품 수준 기능에 중점을 두었다.

실험 결과

연구 질문

• RQ1 AI 시스템에서 책임감 있는 AI를 실천 가능하게 하기 위해 재사용 가능한 시스템 수준 설계 패턴는 무엇인가?
• RQ2 이 설계 패턴들은 제공된 AI 시스템의 생명주기에서 특정 상태나 전환에 어떻게 매핑될 수 있는가?
• RQ3 AI 시스템에서 책임성, 투명성, 윤리적 준수를 가능하게 하는 핵심 아키텍처 구성 요소는 무엇인가?
• RQ4 윤리 지식, 버전 관리, 감사 기능을 어떻게 체계적으로 AI 시스템 설계에 제품 기능으로 통합할 수 있는가?
• RQ5 설계 패턴은 AI 시스템에서 지속적인 윤리 검증, 고장 내성, 책임 추적에 어떻게 기여할 수 있는가?

주요 결과

• 연구는 Ethical Black Box, Ethical Digital Twin 등 실천 가능한 12개의 시스템 수준 설계 패턴을 식별하여 책임감 있는 AI 설계를 위한 제품 기능으로 통합할 수 있음을 확인하였다.
• 이러한 패턴들은 AI 시스템 생명주기의 특정 상태나 전환에 매핑되어 구현에 대한 시간적 및 맥락 기반 안내를 제공한다.
• Ethical Black Box 패턴은 센서 데이터, 결정, 행동, 영향을 기록함으로써 사후 사고 감사를 가능하게 하여 책임성과 추적 가능성을 지원한다.
• Co-versioning Registry 패턴은 AI 구성 요소, 데이터, 모델, 설정의 공진화를 생명주기 전반에 걸쳐 추적함으로써 기원 확보와 신뢰를 보장한다.
• Ethical Digital Twin 패턴은 배포 이전에 시스템 수준의 시뮬레이션과 윤리적 리스크 평가를 가능하게 하여 안전성과 신뢰성을 향상시킨다.
• Global-View Auditor 패턴은 윤리적 사고 발생 시 여러 AI 시스템 간의 데이터 불일치를 해결하여 책임성 규명과 시스템 신뢰도를 향상시킨다.