[論文レビュー] Explainable Computational Creativity

Maria Teresa Llano, Mark d’Inverno+5 more|Goldsmiths (University of London)|May 11, 2022

Explainable Artificial Intelligence (XAI)参考文献 20被引用数 7

ひとこと要約

本稿は、人間と計算的創造性（CC）システムとの間で双方向のコミュニケーションを可能にする、説明可能AIの新しい分野「説明可能計算的創造性（XCC）」を紹介する。本稿では、創造プロセス全体にわたり透明で相互作用的かつ説明可能な対話を可能にするために、心のモデル、長期記憶、議論、プロセスの露呈の4つの設計原則を提唱する。

ABSTRACT

Human collaboration with systems within the Computational Creativity (CC) field is often restricted to shallow interactions, where the creative processes, of systems and humans alike, are carried out in isolation, without any (or little) intervention from the user, and without any discussion about how the unfolding decisions are taking place. Fruitful co-creation requires a sustained ongoing interaction that can include discussions of ideas, comparisons to previous/other works, incremental improvements and revisions, etc. For these interactions, communication is an intrinsic factor. This means giving a voice to CC systems and enabling two-way communication channels between them and their users so that they can: explain their processes and decisions, support their ideas so that these are given serious consideration by their creative collaborators, and learn from these discussions to further improve their creative processes. For this, we propose a set of design principles for CC systems that aim at supporting greater co-creation and collaboration with their human collaborators.

研究の動機と目的

• 現在の計算的創造性（CC）システムが透明な「ブラックボックス」として動作していることによる、人間ユーザーとCCシステムとの間で持続的かつ相互作用的なコミュニケーションの欠如に対処すること。
• 既存の説明可能AI（XAI）における一方的かつ最終出力に限定された説明の限界を克服し、創造プロセス中に継続的かつ対話的な説明を可能にすること。
• CCシステムが意思決定を説明し、アイデアを正当化し、リアルタイムでの人間のフィードバックから学習する仕組みを備えることで、より深い共同創造を促進すること。
• CCシステムが意思決定を説明し、アイデアを正当化し、人間のフィードバックから学習するための設計原則を確立すること。
• 説明可能で透明で相互作用的なプロセスを通じて、創造性、協働の質、ユーザーの関与度を向上させることを目的とした、説明可能なCCシステムの可能性を検討すること。

提案手法

• 心のモデル、長期記憶、議論、創造プロセスの露呈の4つの核心的設計原則からなるフレームワークを提唱する。
• これらの原則をCCシステムに統合し、内部の推論を表現し、履歴の対話を保持し、創造的意思決定を正当化できるようにする。
• 双方向のコミュニケーションに重点を置く：システムが自らの行動を説明し、ユーザーがリアルタイムで反応したり、アイデアを修正・反論したりできるようにする。
• 実世界の例（例：SpeakeSystem音楽即興装置）を用いて、現在のシステムが創造的対話に参加できないこと、すなわち、注釈や対話プロセスから除外されていることの実態を示す。
• 社会科的知見を活用し、CCシステムを創造的協働における関係的役割を果たす可能性のある社会的参加者として位置づける。
• 説明は、出力後にのみ行われる後向きの正当化に限定されるべきではなく、共同意思決定を支援するため、創造的ワークフロー全体に埋め込まれるべきだと提唱する。

実験結果

リサーチクエスチョン

• RQ1 創造プロセスの最終段階でのみではなく、リアルタイムにCCシステムがその創造的意思決定とプロセスを説明するには、どのように設計すればよいか？
• RQ2 人間とCCシステムとの間で、共同創造的対話と相互アイデアの洗練を支援するための二方向通信を可能にするメカニズムは何か？
• RQ3 心のモデル、長期記憶、議論が、信頼性と関与度の高い人間-CC協働を可能にする役割を果たすメカニズムとして果たす役割は何か？
• RQ4 ユーザーはCCシステムからの説明に対してどのように反応するのか？創造的文脈において、説明が有効または無効である要因は何か？
• RQ5 CCシステムがアイデアを主張する際の倫理的・社会的影響は何か？また、人間の創造的プロセスを覆したり、破壊したりするのを避けるにはどうすればよいか？

主な発見

• 説明可能計算的創造性（XCC）により、人間とCCシステムとの間で双方向のコミュニケーションが可能となり、孤立した創造的プロセスが協働的対話へと変容する。
• 心のモデル、長期記憶、議論、プロセスの露呈という4つの設計原則は、透明で相互作用的かつ信頼できる共同創造を支えるために不可欠である。
• SpeakeSystemのような現在のCCシステムは、創造的出力の中心にありながらも、注釈や対話プロセスから除外されており、創造的対話に参加する能力を欠いている。
• 創造プロセス全体に説明を埋め込むことで、最終段階での説明に限定されるよりも、協働の質とユーザーの関与度が著しく向上する。
• 説明可能で社会的感覚を持つ能力を備えたCCシステムは、休憩の提案や共有活動の提言といった社会的役割を果たすことができる。
• 倫理的境界は極めて重要である：CCシステムは人間の意思決定を上書きしてはならず、人間のアイデアの功績を主張してはならない。また、有害な類似例（例：広告でギャンブルと口腔衛生を結びつけるなど）を促進してはならない。