[论文解读] Enabling Value Sensitive AI Systems through Participatory Design Fictions

Q. Vera Liao, Michael Müller|arXiv (Cornell University)|Dec 13, 2019

Ethics and Social Impacts of AI参考文献 22被引用 20

一句话总结

本文提出参与式设计虚构（participatory design fictions）作为一种方法，通过让利益相关者共同构建关于人工智能应用的推测性叙事，以促进价值敏感型人工智能系统的发展。通过将参与式设计与虚构情境相结合，该方法在具体领域中揭示了细致入微的用户价值观，一项案例研究证明了其在揭示人工智能开发中的伦理关切和利益相关者优先事项方面的有效性。

ABSTRACT

Two general routes have been followed to develop artificial agents that are sensitive to human values---a top-down approach to encode values into the agents, and a bottom-up approach to learn from human actions, whether from real-world interactions or stories. Although both approaches have made exciting scientific progress, they may face challenges when applied to the current development practices of AI systems, which require the under-standing of the specific domains and specific stakeholders involved. In this work, we bring together perspectives from the human-computer interaction (HCI) community, where designing technologies sensitive to user values has been a longstanding focus. We highlight several well-established areas focusing on developing empirical methods for inquiring user values. Based on these methods, we propose participatory design fictions to study user values involved in AI systems and present preliminary results from a case study. With this paper, we invite the consideration of user-centered value inquiry and value learning.

研究动机与目标

• 解决当前人工智能开发实践中常常忽视特定领域价值观和利益相关者多样性的缺陷。
• 通过将价值探究扎根于现实世界情境和利益相关者视角，克服自上而下编码价值和自下而上学习价值的局限性。
• 将人机交互（HCI）长期关注的价值敏感设计理念整合到实际的人工智能开发工作流程中。
• 提出一种新方法——参与式设计虚构，结合推测性叙事与参与式设计，以激发和探索用户价值观。
• 通过一项真实世界领域的初步案例研究，证明该方法的可行性与价值。

提出的方法

• 开发参与式设计虚构作为一项混合方法，融合参与式设计与推测性小说技术。
• 让多元利益相关者共同创作关于特定应用领域未来人工智能系统的虚构叙事。
• 将这些虚构情境用作工具，探究利益相关者的价值观、伦理关切和情境需求。
• 应用人机交互（HCI）中既有的实证方法分析利益相关者反馈，并提取蕴含价值观的洞察。
• 围绕叙事原型组织工作坊，模拟人工智能交互，以激发情感、伦理和实际层面的反应。
• 将研究发现综合为设计建议，以指导价值敏感型人工智能系统的设计。

实验结果

研究问题

• RQ1 参与式设计虚构在人工智能系统开发背景下，如何有效激发利益相关者的价值观？
• RQ2 当利益相关者共同创作关于未来人工智能应用的虚构情境时，会浮现哪些类型的价值？
• RQ3 与传统价值探究方法相比，参与式设计虚构在捕捉细致入微、情境特定的价值方面表现如何？
• RQ4 虚构叙事在识别人工智能系统中的伦理权衡与设计矛盾方面，发挥何种作用？
• RQ5 利益相关者的多样性与领域特定性在塑造该方法揭示的价值方面起到什么作用？

主要发现

• 参与式设计虚构成功从多元利益相关者中激发了广泛的价值观，包括公平性、自主性、透明度和问责制。
• 该方法揭示了传统问卷调查或访谈难以捕捉的情境特定伦理关切。
• 利益相关者对虚构叙事的参与程度高于对抽象价值框架的参与，表明其认知与情感投入度更高。
• 案例研究证明，虚构情境有助于揭示相互冲突的价值观，如隐私与效用之间的权衡，从而实现对设计权衡的早期识别。
• 该方法识别出此前未被考虑的利益相关者群体及其在人工智能系统设计中的独特价值优先事项。
• 由此产生的设计洞察具有可操作性，并直接指导了价值敏感型人工智能系统需求的制定。