[论文解读] User-centric AIGC products: Explainable Artificial Intelligence and AIGC products
本文提出将可解释人工智能（XAI）技术整合到AIGC产品中的用户输入与反馈阶段，以提升用户体验。通过采用关键词库、加权提示结构，以及SHAP/敏感性分析来解释提示的贡献，使用户能够更有效地理解并优化AI生成的输出，从而提供一种以人为本的框架，以提升AIGC的可用性与可信度。
Generative AI tools, such as ChatGPT and Midjourney, are transforming artistic creation as AI-art integration advances. However, Artificial Intelligence Generated Content (AIGC) tools face user experience challenges, necessitating a human-centric design approach. This paper offers a brief overview of research on explainable AI (XAI) and user experience, examining factors leading to suboptimal experiences with AIGC tools. Our proposed solution integrates interpretable AI methodologies into the input and adjustment feedback stages of AIGC products. We underscore XAI's potential to enhance the user experience for ordinary users and present a conceptual framework for improving AIGC user experience.
研究动机与目标
- 解决由于AIGC工具的不透明性与缺乏可解释性所导致的用户体验差的问题。
- 识别AIGC中的主要用户体验挑战，包括学习成本高、输出不一致，以及因AI‘黑箱’特性引发的用户不信任。
- 提出一种以用户为中心的XAI框架，以增强AIGC工作流中输入与反馈阶段的理解与控制能力。
- 弥合技术性XAI方法与非专业用户实际AIGC产品设计之间的鸿沟。
- 为将XAI整合到AIGC产品开发流程中，提供可操作的、基于实践的建议。
提出的方法
- 将XAI技术——特别是SHAP与敏感性分析——整合到AIGC工作流的输入与反馈阶段。
- 提出一个包含结构化提示模板的关键词库，以指导新手用户构建有效的输入。
- 引入一种类似调色板的可视化界面，用于为输入参数（如光照、风格、色彩基调）分配权重。
- 使用局部解释与对比解释，阐明特定输入词汇如何影响输出生成。
- 结合对话式AI与XAI反馈，帮助用户基于可解释的模型行为，迭代优化其提示。
- 通过可视化参数调优结果，建立用户对输入变化与输出差异之间因果关系的直观理解。
实验结果
研究问题
- RQ1认知偏差与心智模型错配如何影响用户与AIGC工具的交互？
- RQ2缺乏透明度与可解释性所导致的AIGC产品主要用户体验挑战是什么？
- RQ3如何有效将XAI技术整合到AIGC工作流的输入与反馈阶段，以提升用户控制力？
- RQ4哪些XAI方法（如SHAP、敏感性分析）最能支持用户理解提示与输出之间的关系？
- RQ5哪些设计模式能使XAI在AIGC应用中对非技术用户更具可操作性与可用性？
主要发现
- AIGC模型的‘黑箱’特性导致输出不一致，引发用户挫败感，尤其对非专业用户影响显著。
- 在输入阶段整合XAI——通过关键词库与加权提示结构——可降低试错成本，提升输入的可预测性。
- 利用SHAP与敏感性分析进行可解释的反馈，使用户能够量化单个提示词对输出的贡献度。
- 可视化参数权重及其影响，可增强用户理解，实现更精确、高效的调整。
- 结合XAI的对话式生成，有助于用户澄清模糊需求，并通过迭代、可解释的优化过程，使输出更符合预期。
- 面向AIGC产品的以人为本XAI框架，可在无需技术AI知识的前提下，提升信任感、可用性与用户控制力。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。