[論文レビュー] Inclusive Child-centered AI: Employing design futuring for Inclusive design of inclusive AI by and with children in Finland and India

Sumita Sharma, Netta Iivari+3 more|arXiv (Cornell University)|Apr 17, 2023

Innovative Human-Technology Interaction被引用数 5

ひとこと要約

本論文は、フィンランドおよびインドの学生とともにデザイン・フュเจอリングを用いた、子供中心で包摂的なAIデザインアプローチを提示する。子供たちが将来のAIシステムを想像することで、参加型デザインが若者主導の批判的思考と創造的プロトタイピングを通じて包摂性を促進し、公平で包摂的なAI開発のための実行可能なインサイトを生み出すことを示している。

ABSTRACT

Children increasingly use applications utilizing Artificial Intelligence / Machine Learning (AI/ML). Given the propensity of such applications to propagate existing social, gender, and racial biases, it becomes imperative to consider designing and developing child-centered AI applications for children. Furthermore, children should have opportunities and skills to critically reflect on current applications and envision and design better AI/ML applications that are ethical, specifically, those that are inclusive and fair. In our work, we focus on child-centered AI and inclusion. Using a two-fanged approach to inclusion and employing design futuring in our research with schools in India and Finland, children critically considered future technology design for all. In this paper, we present three cases of this work: a study with students at a school in New Delhi and two studies with students at schools in Oulu. Our work showcases how to design for inclusion - by designing for all, and how to design inclusively - by inviting children to envision the future, through design futuring approaches.

研究の動機と目的

• 子供のアプリケーションにおけるバイアスのAI倫理的リスクに対処するため、子供をデザインプロセスの中心に据えること。
• 子供が現在のAIシステムを批判的に検討し、より包摂的で公平で倫理的な将来のAIを共同で設計できる方法を調査すること。
• 参加型手法を通じて、「全員のための設計」と「包摂的な設計」の二面的な包摂的アプローチを構築・検証すること。
• デザイン・フュージャリングが、子供たちが公平で代表的である未来のAIシステムを想像し、プロトタイプ化するのをどう支援するかを検討すること。
• 異なる文化的文脈（フィンランドおよびインド）における子供たちが共同で設計する包摂的AIのための実行可能な設計原則を生成すること。

提案手法

• オウル（フィンランド）およびニューデリー（インド）の学校の生徒を対象に、デザイン・フュージャリング・ワークショップを実施した。
• 将来のAIアプリケーションを5〜10年後において想像できるように、予測的デザイン技法を用いた。
• 参加型デザインセッションを実施し、子供たちが包摂的なAIシステムのプロトタイプと物語を共同で作成した。
• 設計プロセス中に、性別、人種、社会的バイアスなどの既存のAIバイアスについての批判的考察を統合した。
• 包摂性に二重の焦点を当てた：すべての人に向けた設計（普遍的アクセス）と、多様な声を共同創造に取り入れた設計。
• 学生が生成した資料（スケッチ、物語、プロトタイプ）を収集・分析し、設計インサイトと価値を抽出した。

実験結果

リサーチクエスチョン

• RQ1 子供たちは、現在のAIアプリケーションをどのように批判的に検討し、より包摂的で倫理的な将来のAIシステムを想像できるか？
• RQ2 どのようなデザイン手法が、多様な価値とニーズを反映するAIプロトタイプの共同設計を可能にするか？
• RQ3 子供たちが設計プロセスにおいて能動的な参加者である場合、デザイン・フュージャリングが包摂的AIの開発をどのように支援するか？
• RQ4 フィンランドとインドの子供たちの将来のAI像に、どのような相違点と類似点が見られるか？
• RQ5 「全員のための設計」と「包摂的な設計」の二重的アプローチを、子供中心のAIデザインでどのように実装できるか？

主な発見

• フィンランドおよびインドの子供たちは、公平性、アクセシビリティ、倫理的責任を重視する、文脈に応じた多様な将来のAIビジョンを提示した。
• デザイン・フュージャリングにより、子供たちは現在のAIの限界を越えて、バイアス、包摂性、社会的公平性に対処するシステムを提案するようになった。
• オウルおよびニューデリーの生徒たちは、AIへの期待と価値観の文化的・文脈的差異を反映した具体的なプロトタイプと物語を共同で作成した。
• 「全員のための設計」と「包摂的な設計」の二重的アプローチは、幅広いニーズと視点を捉えるのに効果的であった。
• 子供たちは、代表性、同意、アルゴリズムの公平性に関するAI倫理について、強い批判的思考能力を示した。
• このプロセスにより、構造的で創造的なツールが与えられた場合、子供たちは受動的なユーザーではなく、倫理的で包摂的なAIの共同設計者としての能力を持つことが明らかになった。