[论文解读] Nine Potential Pitfalls when Designing Human-AI Co-Creative Systems

Daniel Buschek, Lukas Mecke+2 more|arXiv (Cornell University)|Apr 1, 2021

Data Visualization and Analytics参考文献 30被引用 18

一句话总结

本文基于人机交互（HCI）与人工智能（AI）研究，识别出在使用生成式AI设计人机协同创作系统时的九个关键陷阱。文章提出了可操作的设计策略，以应对诸如不可见的AI边界、缺乏表达性交互以及算法偏见等问题，旨在指导更具伦理性、高效性与用户中心化的协同创作工具在创意实践及其他领域的应用。

ABSTRACT

This position paper examines potential pitfalls on the way towards achieving human-AI co-creation with generative models in a way that is beneficial to the users' interests. In particular, we collected a set of nine potential pitfalls, based on the literature and our own experiences as researchers working at the intersection of HCI and AI. We illustrate each pitfall with examples and suggest ideas for addressing it. Reflecting on all pitfalls, we discuss and conclude with implications for future research directions. With this collection, we hope to contribute to a critical and constructive discussion on the roles of humans and AI in co-creative interactions, with an eye on related assumptions and potential side-effects for creative practices and beyond.

研究动机与目标

• 识别并系统化整理使用生成式AI模型的人机协同创作系统中潜在的设计陷阱。
• 突出当前AI能力局限、对AI的过度依赖以及创意工作流程中更广泛系统性假设所带来的风险。
• 激发关于人类与AI在协同创作中角色的批判性、跨学科讨论，重点关注用户利益与创作完整性。
• 为研究人员和实践者提供设计准则与基础考量，以构建更加透明、富有表现力且负责任的协同创作工具。
• 通过揭示可能损害用户创造力、信任感与控制力的问题设计模式，为评估框架提供依据。

提出的方法

• 采用受推测性设计与暗黑模式研究启发的定性、推测性头脑风暴方法，识别人机协同创作交互中的潜在问题。
• 聚焦三个提示：当前AI能力的局限性、AI过度参与的风险，以及使用情境之外的系统性问题。
• 将每个识别出的陷阱映射到创意领域（如图像编辑、文本生成）中真实或合理的生成式AI应用的具体实例。
• 为每个陷阱提出缓解策略，包括用户界面/用户体验干预（例如：可视化不确定性、改善反馈回路）以及AI层面的改进（例如：更好的特征解耦、范围缩小）。
• 运用霍尔维茨的混合主动性原则与古兹迪亚尔与里德尔的协同创作框架等既定理论框架，以阐明设计影响。
• 作为比较评估的基础，提出存在缺陷的基线系统（例如：AI参与过度的版本），用于基准对比更优设计。

实验结果

研究问题

• RQ1 在使用生成式AI的人机协同创作系统中，哪些关键设计陷阱可能损害用户的自主性、创造力与信任感？
• RQ2 当前AI能力的局限性（如泛化能力差或潜在空间纠缠）如何表现为可用性与创作障碍？
• RQ3 过度的AI参与在哪些方面会扭曲用户认知、降低表达性，或导致创意工作流程中的算法焦虑？
• RQ4 系统性问题（如隐藏偏见、数据依赖性或下游后果）如何影响创意作品的完整性与评估？
• RQ5 哪些设计策略能有效缓解这些陷阱，同时保留AI作为协同创作伙伴的优势？

主要发现

• 识别出九种不同的设计陷阱，涵盖从不可见的AI边界到算法偏见及反馈机制不良等问题，每项均附有真实世界创意AI应用的具体实例。
• 许多陷阱不仅源于AI能力局限，也源于不良的交互设计与UI/UX选择，表明仅改进AI本身无法解决核心可用性与伦理问题。
• 本文表明，诸如AI行为不透明或用户控制缺失等不良设计模式，可能导致用户挫败感、创造力下降，甚至放弃使用工具。
• 作者证明，通过针对性的UI/UX干预（如可视化不确定性、改善反馈回路、增强交互表达性）可系统性地解决这些陷阱。
• 所提出的陷阱可作为有价值的评估基线，使研究人员能够将新系统与已知的失败模式进行对比，确保实现有意义的改进。
• 研究结论指出，成功的协同创作系统需要融合人机交互原则与AI能力的跨学科设计，强调透明度、用户控制与伦理考量。