[論文レビュー] Stakeholder Participation in AI: Beyond "Add Diverse Stakeholders and Stir"

Fernando Delgado, Stephen J.H. Yang+2 more|arXiv (Cornell University)|Nov 1, 2021

Ethics and Social Impacts of AI参考文献 33被引用数 21

ひとこと要約

本論文は、AI設計におけるステークホルダー参加を評価・改善するための構造的フレームワークを提示する。5つの次元—目的、範囲、タイミング、手法、権力配分—を用い、56件の参加型AI関連論文と12件のインタビューを分析した結果、組織的命令、プロジェクトオーナーの権限、現実的制約といった主な課題を同定し、形式的参加を超えて意味的で公平なステークホルダーのエンパワーを実現するための原則的アプローチを提示する。

ABSTRACT

There is a growing consensus in HCI and AI research that the design of AI systems needs to engage and empower stakeholders who will be affected by AI. However, the manner in which stakeholders should participate in AI design is unclear. This workshop paper aims to ground what we dub a 'participatory turn' in AI design by synthesizing existing literature on participation and through empirical analysis of its current practices via a survey of recent published research and a dozen semi-structured interviews with AI researchers and practitioners. Based on our literature synthesis and empirical research, this paper presents a conceptual framework for analyzing participatory approaches to AI design and articulates a set of empirical findings that in ensemble detail out the contemporary landscape of participatory practice in AI design. These findings can help bootstrap a more principled discussion on how PD of AI should move forward across AI, HCI, and other research communities.

研究の動機と目的

• 参加型AI実践における原則的評価の欠如に応えるため、『多様なステークホルダーを加え、混ぜる』だけでは公平な結果を生まないという点を扱う。
• AI設計における真正なエンパワーを可能にする、ステークホルダー参加のコアな次元を特定・構造化すること。
• 参加型AIを実装する際の実務家が直面する現実的緊張と制約、たとえば組織的命令やリソース制限を分析すること。
• 参加型ワークショップの記述的記述から、公平性と包括性を評価する理論的かつ実証的フレームワークへと進むこと。
• 構造的・責任ある参加を通じて、多様な価値観と倫理的配慮を意味的に反映するAIシステムの設計を、今後の研究と実践に導くこと。

提案手法

• 本研究は、HCIおよびAI研究分野からの参加型AIに関する56件の査読済み論文を分析し、ステークホルダー参加における繰り返しパターンを同定する。
• 本研究は、参加型AIプロジェクトを主導した研究者および実務家12名に対して、IRB承認を得た半構造的インタビューを実施し、現場での課題と意思決定プロセスを探る。
• 著者らは、HCI、政治理論、社会学のアプローチを比較分析することで、参加の5次元—目的、範囲、タイミング、手法、権力配分—を導出する。
• フレームワークは、インタビュー情報と論文内容の主題的分析を通じて検証され、ステークホルダー参加の緊張、権限、実現可能性に注目する。
• 本研究は、権力ダイナミクスと構造的制約への批判的考察を重視し、弱い声を統合するための歴史的取り組み（HCI分野における類似努力）と類似点を示す。
• 本分析は、質的合成を用い、理想化された参加と実際的制約の間の緊張、代理的代表と真正な関与の間の緊張をマッピングする。

実験結果

リサーチクエスチョン

• RQ1 参加型AI実践が『形式的参加』を超えて、意味的かつ実質的にステークホルダーをエンパワーする程度をどのように評価できるか。
• RQ2 有効な参加と表面的参加を区別する、構造的および手順的次元の核心は何か。
• RQ3 組織的命令とプロジェクトスケジュールが、AI開発におけるステークホルダー参加の範囲と正当性をどのように制約するか。
• RQ4 プロジェクトオーナーの執行的権限が、参加型AIプロセスにおける民主的価値をどのように損なうか。
• RQ5 完全で継続的な参加が現実的でない場合、最小限でも意味のある参加とは何か。

主な発見

• 組織的命令は、どのステークホルダーが参加するか、そして議題にどのような問いが含まれるかを決定しがちであり、しばしば『どのように』ではなく『なぜ』AIを導入するかという問いを制限する。
• プロジェクトオーナーは、ステークホルダーの役割、参加手法、合意形成要件を定義する上で、支配的な権限を保持しており、民主的設計を志向しても同様である。
• 実務的制約により、実務家らは直接的かつ継続的なステークホルダー参加の代わりに、ペルソナや訓練済みの好みモデルといった代理手段に依存する。
• 『完全参加』の理想は、実務家たちによって現実的ではないとみなされ、代わりに倫理的目標と実現可能性のバランスを取る最小限の意味的関与を求める。
• 参加が限界効果を示し始める境界が明確でないため、最小限で効果的な参加を定義する点に、重要な研究ギャップが存在する。
• 目的、範囲、タイミング、手法、権力配分という5次元の参加フレームワークは、参加型AI実践の評価・改善に向けた構造的かつ実証的根拠に基づくフレームワークを提供する。