[论文解读] Toward General Design Principles for Generative AI Applications

Justin D. Weisz, Michael Müller+2 more|arXiv (Cornell University)|Jan 13, 2023

Ethics and Social Impacts of AI被引用 48

一句话总结

本论文提出七条生成式AI应用设计原则，基于人机共创研究，在生成性变异环境中促进高效使用并减轻潜在危害。

ABSTRACT

Generative AI technologies are growing in power, utility, and use. As generative technologies are being incorporated into mainstream applications, there is a need for guidance on how to design those applications to foster productive and safe use. Based on recent research on human-AI co-creation within the HCI and AI communities, we present a set of seven principles for the design of generative AI applications. These principles are grounded in an environment of generative variability. Six principles are focused on designing for characteristics of generative AI: multiple outcomes & imperfection; exploration & control; and mental models & explanations. In addition, we urge designers to design against potential harms that may be caused by a generative model's hazardous output, misuse, or potential for human displacement. We anticipate these principles to usefully inform design decisions made in the creation of novel human-AI applications, and we invite the community to apply, revise, and extend these principles to their own work.

研究动机与目标

• 为对齐以人为本AI价值的生成式AI应用设计者提供指南。
• 以人机共创研究和现有指南为基础支撑设计决策。
• 引入七项原则框架，以解决变异性、可控性、解释性与危害问题。

提出的方法

• 对HCI和AI共创研究以及有代表性的生成应用分析进行文献综述。
• 将发现综合为七项设计原则并说明其互相关系。
• 在一个输出可能在数量、质量和类型上变化的生成性变异环境中框架化原则。

实验结果

研究问题

• RQ1 哪些设计原则最能支持生成式AI应用的高效与安全使用？
• RQ2 设计师应如何适应生成模型固有的变异性和不完美性？
• RQ3 控制、心理模型、解释与防护在有效的生成式AI设计中扮演何种角色？
• RQ4 如何整合这些原则以指导新型人机AI应用的开发？

主要发现

• 识别并围绕生成性变异性组织了生成式AI应用的七项设计原则。
• 原则涵盖多输出、探索与控制、不完美性、人类控制、心理模型、解释性以及对抗危害的设计指令。
• 这些原则旨在指导设计决策、支持共创，并提高设计师对潜在危害的警觉。
• 框架强调版本控制、筛选、注释、可视化、沙箱环境以及定制化解释等策略。