[論文レビュー] Towards a New Participatory Approach for Designing Artificial Intelligence and Data-Driven Technologies

Soaad Hossain, Syed Ishtiaque Ahmed|arXiv (Cornell University)|Mar 30, 2021

Innovative Human-Technology Interaction参考文献 10被引用数 8

ひとこと要約

本論文は、AIおよびデータ駆動型技術に特化した、反復的開発と包括的コミュニティ参加を統合する新しい参加型デザイン手法「アジール・パーシペラティブ・デザイン（APD）」を提案する。伝統的な参加型デザイン（PD）が技術的および倫理的文脈において抱える限界を克服することで、APDは、適応的かつ人間中心のプロセスを通じて、弱い立場のコミュニティがAIシステムを共同で設計できるようにし、より公平で文脈に即した技術の実現を可能にする。

ABSTRACT

With there being many technical and ethical issues with artificial intelligence (AI) that involve marginalized communities, there is a growing interest for design methods used with marginalized people that may be transferable to the design of AI technologies. Participatory design (PD) is a design method that is often used with marginalized communities for the design of social development, policy, IT and other matters and solutions. However, there are issues with the current PD, raising concerns when it is applied to the design of technologies, including AI technologies. This paper argues for the use of PD for the design of AI technologies, and introduces and proposes a new PD, which we call agile participatory design, that not only can could be used for the design of AI and data-driven technologies, but also overcomes issues surrounding current PD and its use in the design of such technologies.

研究の動機と目的

• 弱い立場のコミュニティに特に顕著に影響を与えるAI設計における倫理的・技術的課題に対処すること。
• AIおよびデータ駆動型技術に適用された現在の参加型デザイン（PD）の限界を特定すること。
• これらの限界を克服する新しい設計フレームワーク「アジール・パーシペラティブ・デザイン（APD）」を提唱すること。
• 弱い立場のステークホルダーと協働して、包括的で反復的かつ文脈に敏感なAIシステムの共同設計を可能にすること。

提案手法

• アジールソフトウェア開発手法の反復的・段階的性質に合わせて、参加型デザインの原則を適合させる。
• 問題の定式化から導入まで、AIシステム開発の全段階にわたりコミュニティのステークホルダーを統合する。
• 短い開発サイクルと継続的なフィードバックループを用いることで、継続的なコミュニティ参加とコミュニティ価値との整合性を確保する。
• 意思決定における力の分散と能力強化に重点を置き、弱い立場の参加者が技術的意思決定に参加できるように支援する。
• 人間-コンピュータインタラクション（HCI）の実践とAI倫理、そして批判的ソーシャル理論を組み合わせて、デザインプロセスをガイドする。
• 弱い立場のコミュニティと共同でワークショップや共同設計セッションを実施することで、実世界の文脈に応用する。

実験結果

リサーチクエスチョン

• RQ1 参加型デザインは、AIおよびデータ駆動型技術開発における技術的・倫理的要請を満たすためにどのように適合できるか？
• RQ2 伝統的な参加型デザインがAIシステムに適用された際の主な限界は何か？
• RQ3 アジール開発手法は、AI共同設計における包摂性と公平性をどのように向上できるか？
• RQ4 参加型デザインは、事実上の相談にとどまらず、弱い立場のコミュニティがAIシステムの設計に意味的に関与できるような形でどのように実現できるか？
• RQ5 参加型デザインをAI技術に効果的に適用するために必要な構造的・手続的変更は何か？

主な発見

• アジール・パーシペラティブ・デザイン（APD）は、コミュニティの意見をAIシステムの技術的開発ライフサイクルに統合し、継続的な関連性と倫理的整合性を確保した。
• この手法により、弱い立場のコミュニティが要件だけでなく、技術的トレードオフやシステム動作に対しても影響を及ぼすことができるようになった。
• APDは意思決定権をコミュニティメンバーと開発者間で分散させることで、力の不均衡を軽減した。
• 継続的なフィードバックを通じた反復的改善が可能となり、システムの公平性と使いやすさが向上した。
• APDを用いた共同設計セッションにより、従来見過ごされていたAI応用における倫理的リスクや文脈的制約が特定された。
• このフレームワークは、特に医療や社会サービスなど社会的に感受性の高い分野において、実世界の文脈で実現可能性とスケーラビリティを示した。