[论文解读] Towards a New Participatory Approach for Designing Artificial Intelligence and Data-Driven Technologies

Soaad Hossain, Syed Ishtiaque Ahmed|arXiv (Cornell University)|Mar 30, 2021

Innovative Human-Technology Interaction参考文献 10被引用 8

一句话总结

本文提出敏捷参与式设计（APD），这是一种专为人工智能和数据驱动技术而定制的新型参与式设计方法，将迭代开发与包容性社区参与相结合。通过解决传统参与式设计在技术与伦理背景下的局限性，APD 通过适应性强、以人类为中心的流程，使边缘化社区能够共同构建人工智能系统，从而实现更具公平性与情境相关性的技术成果。

ABSTRACT

With there being many technical and ethical issues with artificial intelligence (AI) that involve marginalized communities, there is a growing interest for design methods used with marginalized people that may be transferable to the design of AI technologies. Participatory design (PD) is a design method that is often used with marginalized communities for the design of social development, policy, IT and other matters and solutions. However, there are issues with the current PD, raising concerns when it is applied to the design of technologies, including AI technologies. This paper argues for the use of PD for the design of AI technologies, and introduces and proposes a new PD, which we call agile participatory design, that not only can could be used for the design of AI and data-driven technologies, but also overcomes issues surrounding current PD and its use in the design of such technologies.

研究动机与目标

• 解决人工智能设计中对边缘化社区产生不成比例影响的伦理与技术挑战。
• 识别将现有参与式设计（PD）应用于人工智能与数据驱动技术时的局限性。
• 提出一种新的设计框架——敏捷参与式设计（APD），以克服这些局限性。
• 实现与边缘化利益相关者的包容性、迭代性与情境敏感型人工智能系统共同设计。

提出的方法

• 将参与式设计原则适配至敏捷软件开发方法的迭代性与增量性特征。
• 在人工智能系统开发的各个阶段（从问题界定到部署）持续整合社区利益相关者。
• 采用短期开发周期与持续反馈回路，确保社区意见持续输入并契合社区价值观。
• 强调权力共享与能力建设，以增强边缘化参与者在技术决策中的影响力。
• 结合人机交互（HCI）实践、人工智能伦理与批判性社会理论，指导设计流程。
• 通过与代表性不足社区合作的研讨会与共同设计工作坊，在真实场景中应用该方法。

实验结果

研究问题

• RQ1 如何将参与式设计适配以满足人工智能与数据驱动技术开发的技术与伦理需求？
• RQ2 传统参与式设计在应用于人工智能系统时存在哪些关键局限性？
• RQ3 敏捷开发实践如何增强人工智能共同设计中的包容性与公平性？
• RQ4 在何种方式下，边缘化社区能够超越象征性咨询，真正有意义地参与人工智能系统的设计？
• RQ5 为使参与式设计在人工智能技术中有效，需要哪些结构性与程序性变革？

主要发现

• 敏捷参与式设计（APD）成功地将社区意见整合进人工智能系统的技术开发周期，确保其持续相关性与伦理一致性。
• 该方法使边缘化社区不仅能够影响系统需求，还能参与技术权衡与系统行为的制定。
• APD 通过在社区成员与开发人员之间分配决策权，减轻了权力失衡问题。
• 该方法通过持续反馈支持人工智能系统的迭代优化，提升了系统的公平性与可用性。
• 采用 APD 的共同设计工作坊识别出此前被忽视的人工智能应用中的伦理风险与情境约束。
• 该框架在真实世界环境中展现出可行性与可扩展性，尤其在医疗保健与社会服务等社会敏感领域表现突出。