[论文解读] Explainable Computational Creativity

Maria Teresa Llano, Mark d’Inverno+5 more|Goldsmiths (University of London)|May 11, 2022

Explainable Artificial Intelligence (XAI)参考文献 20被引用 7

一句话总结

本文提出了可解释计算创造力（XCC），这是可解释人工智能（XAI）的一个新子领域，专注于实现人类与计算创造力系统之间的双向沟通。它提出了四个设计原则——心智模型、长期记忆、论证机制和过程透明化，以支持在整个创造过程中实现透明、互动且可解释的协同创作。

ABSTRACT

Human collaboration with systems within the Computational Creativity (CC) field is often restricted to shallow interactions, where the creative processes, of systems and humans alike, are carried out in isolation, without any (or little) intervention from the user, and without any discussion about how the unfolding decisions are taking place. Fruitful co-creation requires a sustained ongoing interaction that can include discussions of ideas, comparisons to previous/other works, incremental improvements and revisions, etc. For these interactions, communication is an intrinsic factor. This means giving a voice to CC systems and enabling two-way communication channels between them and their users so that they can: explain their processes and decisions, support their ideas so that these are given serious consideration by their creative collaborators, and learn from these discussions to further improve their creative processes. For this, we propose a set of design principles for CC systems that aim at supporting greater co-creation and collaboration with their human collaborators.

研究动机与目标

• 为解决当前人类用户与计算创造力（CC）系统之间缺乏持续、互动式沟通的问题，这些系统目前表现为不透明的‘黑箱’。
• 通过在创造过程中实现持续的对话式解释，克服现有可解释人工智能（XAI）中单向、仅针对最终输出的解释的局限性。
• 通过赋予CC系统‘话语权’，借助可解释机制支持相互理解与协作，从而促进更深层次的协同创作。
• 建立设计原则，使CC系统能够实时解释其决策、论证创意，并从人类反馈中学习。
• 探索可解释CC系统如何通过透明、互动的过程提升创造力、协作质量与用户参与度。

提出的方法

• 提出由四个核心设计原则构成的框架：心智模型、长期记忆、论证机制和创造过程的暴露。
• 将这些原则整合到CC系统中，使其能够表征内部推理过程，保留历史交互记录，并为创意决策提供依据。
• 强调双向沟通：系统解释其行为，用户可实时回应、修改或挑战其想法。
• 使用真实案例（如SpeakeSystem音乐即兴创作系统）说明当前系统缺乏参与创意对话的能力。
• 借鉴社会科学洞见，将CC系统定位为潜在的社会参与者，可在创意协作中承担关系性角色。
• 提出解释不应仅限于事后说明，而应嵌入整个创造工作流中，以支持共同决策。

实验结果

研究问题

• RQ1 如何设计CC系统，使其能够实时解释其创意决策与过程，而非仅在流程结束时进行？
• RQ2 哪些机制能够支持人类与CC系统之间的双向沟通，以促进协同创作对话与创意的相互完善？
• RQ3 心智模型、长期记忆和论证机制在实现可信且富有吸引力的人机CC协作中发挥何种作用？
• RQ4 用户如何回应CC系统的解释？在创意语境中，什么样的解释是有效或无效的？
• RQ5 CC系统倡导创意时存在哪些伦理与社会影响？如何避免其越界或干扰人类的创造过程？

主要发现

• 可解释计算创造力（XCC）实现了人类与CC系统之间的双向沟通，将孤立的创造过程转变为协作对话。
• 四个设计原则——心智模型、长期记忆、论证机制和过程暴露——对于支持透明、互动且可信的协同创作至关重要。
• 当前的CC系统（如SpeakeSystem）缺乏参与创意讨论的能力，尽管它们是创造产出的核心，却在注释与对话流程中被排除在外。
• 将解释嵌入整个创造过程而非仅在末尾进行，能显著提升协作质量与用户参与度。
• 若具备可解释与社会意识能力，CC系统可在创造过程中承担社会角色，例如建议休息或提议共同活动。
• 伦理边界至关重要：CC系统不得取代人类决策、窃取人类创意的功劳，或推广有害类比（例如在广告中将赌博与口腔健康相提并论）。