[논문 리뷰] Explainable Computational Creativity

Maria Teresa Llano, Mark d’Inverno외 5명|Goldsmiths (University of London)|2022. 05. 11.

Explainable Artificial Intelligence (XAI)참고 문헌 20인용 수 7

한 줄 요약

이 논문은 인간과 계산적 창의성 시스템 간의 双방향 소통을 가능하게 하는 설명 가능한 인공지능(XAI)의 새로운 하위 분야인 설명 가능한 계산적 창의성(XCC)을 소개한다. 창의적 과정 全 주기 동안 투명하고 상호작용적이며 설명 가능한 상호작용을 통해 공동 창의적 협업을 지원하기 위해 정신 모델, 장기 기억, 논증, 과정 노출의 네 가지 설계 원칙을 제안한다.

ABSTRACT

Human collaboration with systems within the Computational Creativity (CC) field is often restricted to shallow interactions, where the creative processes, of systems and humans alike, are carried out in isolation, without any (or little) intervention from the user, and without any discussion about how the unfolding decisions are taking place. Fruitful co-creation requires a sustained ongoing interaction that can include discussions of ideas, comparisons to previous/other works, incremental improvements and revisions, etc. For these interactions, communication is an intrinsic factor. This means giving a voice to CC systems and enabling two-way communication channels between them and their users so that they can: explain their processes and decisions, support their ideas so that these are given serious consideration by their creative collaborators, and learn from these discussions to further improve their creative processes. For this, we propose a set of design principles for CC systems that aim at supporting greater co-creation and collaboration with their human collaborators.

연구 동기 및 목표

• 현재 투명하지 않은 '블랙박스'로 작동하는 인간 사용자와 계산적 창의성(CC) 시스템 간의 지속적이고 상호작용 가능한 소통의 부족을 해결하기 위해.
• 기존 설명 가능한 인공지능(XAI)에서의 일방적인 최종 출력 설명의 한계를 극복하기 위해 창의적 과정 중 지속적인 대화식 설명을 가능하게 하기 위해.
• CC 시스템이 인간과의 상호 이해와 협업을 지원하는 설명 가능한 메커니즘을 통해 '목소리'를 갖도록 하여 더 깊이 있는 공동 창의적 작업을 촉진하기 위해.
• CC 시스템이 결정을 설명하고 아이디어를 정당화하며 실시간으로 인간의 피드백에서 배울 수 있도록 하는 설계 원칙을 수립하기 위해.
• 설명 가능한 CC 시스템이 투명하고 상호작용적인 과정을 통해 창의성 향상, 협업 품질 향상, 사용자 참여도 향상에 어떻게 기여할 수 있는지 탐색하기 위해.

제안 방법

• 정신 모델, 장기 기억, 논증, 창의적 과정의 노출이라는 네 가지 핵심 설계 원칙으로 구성된 프레임워크를 제안한다.
• 이 원칙들을 CC 시스템에 통합하여 내부 추론을 표현하고, 이전 상호작용 기록을 유지하며, 창의적 결정을 정당화할 수 있도록 한다.
• 이중 방향 소통을 강조한다: 시스템은 자신의 행동을 설명하고, 사용자는 실시간으로 반응하거나 아이디어를 수정하거나 도전할 수 있다.
• SpeakeSystem 음악 즉흥연주 시스템과 같은 실제 사례를 통해 현재 시스템이 창의적 대화에 참여할 능력을 갖추지 못하고 있음을 설명한다.
• 사회과학적 통찰을 바탕으로 CC 시스템이 창의적 협업에서 관계적 역할을 수행할 수 있는 사회적 주체로 간주될 수 있음을 위치한다.
• 설명은 후행적 정당화에 국한되어서는 안 되며, 공동 의사결정을 지원하기 위해 창의적 워크플로우 全 주기 동안 통합되어야 한다고 제안한다.

실험 결과

연구 질문

• RQ1 창의적 과정의 끝에서만 아니라, 실제 과정 중에 CC 시스템이 창의적 결정과 과정을 실시간으로 설명할 수 있도록 설계하는 방법은 무엇인가?
• RQ2 인간과 CC 시스템 간의 이중 방향 소통을 가능하게 하고 공동 창의적 대화 및 상호 아이디어 정련을 지원하는 메커니즘은 무엇인가?
• RQ3 정신 모델, 장기 기억, 논증이 신뢰할 수 있고 참여도가 높은 인간-CC 협업을 가능하게 하는 데 어떤 역할을 하는가?
• RQ4 사용자는 CC 시스템의 설명에 어떻게 반응하는가? 창의적 맥락에서 설명이 효과적 또는 비효과적인 이유는 무엇인가?
• RQ5 CC 시스템이 아이디어를 옹호할 경우 윤리적 및 사회적 영향은 무엇이며, 인간 창의적 과정을 초월하거나 방해하지 않도록 하기 위해선 어떻게 해야 하는가?

주요 결과

• 설명 가능한 계산적 창의성(XCC)은 인간과 CC 시스템 간의 이중 방향 소통을 가능하게 하여 고립된 창의적 과정을 공동 협업 대화로 전환시킨다.
• 정신 모델, 장기 기억, 논증, 과정의 노출이라는 네 가지 설계 원칙은 투명하고 상호작용적이며 신뢰할 수 있는 공동 창의적 작업을 지원하는 데 필수적이다.
• SpeakeSystem과 같은 현재의 CC 시스템은 창의적 논의에 기여할 능력이 없으며, 창의적 출력의 중심에 있음에도 불구하고 애너테이션 및 대화 과정에서 배제되어 있다.
• 창의적 과정 전반에 걸쳐 통합된 설명은 끝난 후에만 설명하는 것보다 협업 품질 향상과 사용자 참여도 향상에 크게 기여한다.
• 설명 가능하고 사회적 인지 능력을 갖춘 CC 시스템은 휴식 제안이나 공동 활동 제안과 같은 사회적 역할을 수행할 수 있다.
• 윤리적 경계는 매우 중요하다: CC 시스템은 인간의 결정을 대체하거나 인간의 아이디어에 대해 명의를 주장하거나 해로운 유사성(예: 광고에서 도박과 구강 건강을 연결짓기)을 홍보해서는 안 된다.