[論文レビュー] Enabling Value Sensitive AI Systems through Participatory Design Fictions

Q. Vera Liao, Michael Müller|arXiv (Cornell University)|Dec 13, 2019

Ethics and Social Impacts of AISocial Sciences参考文献 22被引用数 20

ひとこと要約

本稿では、ステークホルダーを参加型に巻き込み、AI利用に関する予測的物語を共同で作成することで、価値感受性のあるAIシステムを実現する手法として『参加型デザイン・フィクション』を提唱する。参加型デザインとフィクション的シナリオを統合することにより、文脈特有の分野において洗練されたユーザーの価値を抽出でき、事例研究を通じてその有効性が実証されている。

ABSTRACT

Two general routes have been followed to develop artificial agents that are sensitive to human values---a top-down approach to encode values into the agents, and a bottom-up approach to learn from human actions, whether from real-world interactions or stories. Although both approaches have made exciting scientific progress, they may face challenges when applied to the current development practices of AI systems, which require the under-standing of the specific domains and specific stakeholders involved. In this work, we bring together perspectives from the human-computer interaction (HCI) community, where designing technologies sensitive to user values has been a longstanding focus. We highlight several well-established areas focusing on developing empirical methods for inquiring user values. Based on these methods, we propose participatory design fictions to study user values involved in AI systems and present preliminary results from a case study. With this paper, we invite the consideration of user-centered value inquiry and value learning.

研究の動機と目的

• 現在のAI開発手法では、分野特有の価値やステークホルダーの多様性がしばしば無視されるというギャップを埋めるため。
• トップダウン式の価値エンコードやボトムアップ式の価値学習の限界を乗り越え、現実の文脈とステークホルダーの視点に根ざした価値の探求を可能にするため。
• HCI分野が長年にわたり重視してきた価値感受性デザインの知見を、実際のAI開発ワークフローに統合するため。
• 予測的物語と参加型デザインを組み合わせた、新しい手法「参加型デザイン・フィクション」を提唱し、ユーザー価値を抽出・探求するため。
• 実世界の分野における前向きな事例研究を通じて、この手法の実現可能性と価値を示すため。

提案手法

• 参加型デザインと予測的フィクション技法を統合したハイブリッド手法として、参加型デザイン・フィクションを構築する。
• 多様なステークホルダーを対象に、特定の応用分野における将来のAIシステムに関するフィクション的物語を共同で作成する。
• これらのフィクション的シナリオを、ステークホルダーの価値、倫理的懸念、文脈に特有のニーズを引き出すためのツールとして活用する。
• HCI分野で確立された実証的手法を応用し、ステークホルダーの反応を分析し、価値を含んだインサイトを抽出する。
• 物語のプロトタイプを基軸としたワークショップを構成し、AIとの対話を模擬することで、感情的・倫理的・実務的反応を引き出す。
• 得られた知見を統合し、価値感受性のあるAIシステム開発に役立つ設計提言を導く。

実験結果

リサーチクエスチョン

• RQ1 参加型デザイン・フィクションは、AIシステム開発の文脈において、ステークホルダーの価値を効果的に引き出すことができるか？
• RQ2 ステークホルダーが将来のAIアプリケーションについてフィクション的シナリオを共同で作成する際、どのような価値が顕在化するか？
• RQ3 参加型デザイン・フィクションは、従来の価値に関する調査手法と比較して、洗練された文脈特有の価値をどれほど的確に捉えられるか？
• RQ4 フィクション的物語は、AIシステムにおける倫理的トレードオフや設計上のジレンマをどのように支援できるか？
• RQ5 ステークホルダーの多様性と分野特異性は、この手法を通じて明らかにされる価値に、どのような役割を果たすか？

主な発見

• 参加型デザイン・フィクションは、多様なステークホルダーから、公平性、自律性、透明性、責任性といった幅広い価値を効果的に抽出した。
• この手法は、従来のアンケートやインタビューでは容易に捉えきれない、文脈特有の倫理的懸念を明らかにした。
• 抽象的な価値フレームワークよりも、フィクション的物語にステークホルダーがより深く関与しており、認知的・感情的関与度が高まっていることが示された。
• 事例研究により、フィクション的シナリオが、プライバシーと利便性の間で生じる対立する価値を浮き彫りにし、設計上のトレードオフを早期に特定可能にした。
• このアプローチにより、従来の設計プロセスで考慮されていなかったステークホルダーのグループや、それらの独自の価値優先順位を同定できた。
• 得られた設計インサイトは実行可能であり、価値感受性のあるAIシステム要件の明確化に直接的かつ具体的に貢献した。