[论文解读] Stakeholder Participation in AI: Beyond "Add Diverse Stakeholders and Stir"

Fernando Delgado, Stephen J.H. Yang+2 more|arXiv (Cornell University)|Nov 1, 2021

Ethics and Social Impacts of AI参考文献 33被引用 21

一句话总结

本文提出一个由五个维度构成的结构化框架——目的、范围、时机、方法和权力分配，用于评估和提升人工智能设计中利益相关者的参与度。基于对56篇参与式AI研究文献及12次访谈的分析，识别出组织授权、项目负责人权威以及实际约束等关键挑战，提出一种超越形式参与的系统性方法，以实现在人工智能开发中真正、公平的利益相关者赋权。

ABSTRACT

There is a growing consensus in HCI and AI research that the design of AI systems needs to engage and empower stakeholders who will be affected by AI. However, the manner in which stakeholders should participate in AI design is unclear. This workshop paper aims to ground what we dub a 'participatory turn' in AI design by synthesizing existing literature on participation and through empirical analysis of its current practices via a survey of recent published research and a dozen semi-structured interviews with AI researchers and practitioners. Based on our literature synthesis and empirical research, this paper presents a conceptual framework for analyzing participatory approaches to AI design and articulates a set of empirical findings that in ensemble detail out the contemporary landscape of participatory practice in AI design. These findings can help bootstrap a more principled discussion on how PD of AI should move forward across AI, HCI, and other research communities.

研究动机与目标

• 为解决参与式人工智能实践中缺乏系统性评估的问题，即仅‘增加多样化利益相关者并简单推动’不足以实现公平结果。
• 识别并构建利益相关者参与的核心维度，以实现人工智能设计中真正的赋权。
• 分析实践者在实施参与式人工智能时面临的现实张力与约束，包括组织授权和资源限制。
• 超越对参与式工作坊的描述性记录，提出一个理论与实证相结合的框架，用于评估参与式人工智能方法的公平性与包容性。
• 通过结构化、可问责的参与方式，指导未来研究与实践，使人工智能系统能真正反映多元价值观与伦理考量。

提出的方法

• 本研究分析了来自人机交互（HCI）与人工智能研究领域中56篇关于参与式AI的同行评审文献，以识别利益相关者参与的重复性模式。
• 对12位曾主导参与式AI项目的科研人员与实践者开展半结构化访谈，获得IRB批准，以探讨实际操作中的挑战与决策过程。
• 通过对比人机交互、政治理论与社会科学中相关方法的异同，推导出参与的五个维度：目的、范围、时机、方法与权力分配。
• 通过主题分析对访谈数据与文献内容进行验证，重点关注利益相关者包容性、权威分配与可行性之间的张力。
• 该方法强调对权力动态与结构性约束的批判性反思，借鉴人机交互领域历史上将边缘化声音纳入的类似努力。
• 采用定性综合分析方法，映射诸如理想化参与与实际约束、代理代表与真实参与之间的张力。

实验结果

研究问题

• RQ1 我们如何评估参与式人工智能实践在超越形式参与之外，对利益相关者实现真正赋权的程度？
• RQ2 哪些结构性与程序性维度能够区分有效参与与表面参与在人工智能设计中的表现？
• RQ3 组织授权与项目时间表如何限制人工智能开发中利益相关者参与的范围与正当性？
• RQ4 项目负责人的执行权威在多大程度上会破坏参与式人工智能过程中的民主理想？
• RQ5 当全面、持续的参与不可行时，何种最低限度的参与可被视为既充分又具意义？

主要发现

• 组织授权通常决定哪些利益相关者被纳入以及讨论议题的范围，往往将讨论局限在‘如何’部署AI，而非‘是否’应部署。
• 即使旨在实现民主设计，项目负责人仍保有对利益相关者角色、参与方式与共识要求的不成比例权威。
• 实际约束迫使实践者依赖代理手段，如人物角色模型或训练好的偏好模型，而非直接、持续的利益相关者参与。
• 实践者普遍认为‘全面参与’不切实际，转而追求一种在伦理目标与可行性之间取得平衡的最低限度但有意义的参与。
• 目前尚无明确标准界定参与何时达到边际效益递减，凸显了在定义最小有效参与方面存在的关键研究空白。
• 参与的五个维度——目的、范围、时机、方法与权力分配——构成了一个结构化、基于实证的框架，可用于评估与改进参与式人工智能实践。