[論文レビュー] Toward Fairness in AI for People with Disabilities: A Research Roadmap

Anhong Guo, Ece Kamar+3 more|arXiv (Cornell University)|Jul 4, 2019

Assistive Technology in Communication and Mobility参考文献 40被引用数 31

ひとこと要約

本論文は、障がいを有する人々（PWD）におけるAIの公平性を向上させるための研究ロードマップを提言している。既存のAIシステムに内在するリスク——例えば音声認識の失敗や偏見に基づく意思決定——が、PWDを排除または害する可能性があると指摘している。本稿は、包摂的なデータ収集、ベンチマークデータセット、および新たなモデリング手法の導入を要請し、多様な障がいグループに効果的かつ公平なAIシステムの実現を図っている。

ABSTRACT

AI technologies have the potential to dramatically impact the lives of people with disabilities (PWD). Indeed, improving the lives of PWD is a motivator for many state-of-the-art AI systems, such as automated speech recognition tools that can caption videos for people who are deaf and hard of hearing, or language prediction algorithms that can augment communication for people with speech or cognitive disabilities. However, widely deployed AI systems may not work properly for PWD, or worse, may actively discriminate against them. These considerations regarding fairness in AI for PWD have thus far received little attention. In this position paper, we identify potential areas of concern regarding how several AI technology categories may impact particular disability constituencies if care is not taken in their design, development, and testing. We intend for this risk assessment of how various classes of AI might interact with various classes of disability to provide a roadmap for future research that is needed to gather data, test these hypotheses, and build more inclusive algorithms.

研究の動機と目的

• 既存のAIシステムが、偏ったデータ、設計、評価手法によって、障がいを有する人々に失敗したり差別的である可能性がある理由を特定すること。
• 障がい者（PWD）におけるバイアスの検出および是正に特有の課題があること——特に、その代表が不足していること、障がいの種類が多様で「長尾」に近いこと——を強調すること。
• 包括的仮説の体系的テストと、PWDに適した倫理的かつ代表的なベンチマークデータセットの作成を提唱すること。
• 多様な障がいコミュニティのニーズに適合した、新たなモデリング手法およびバイアス是正技術の探求。
• 障がい者を含めた使用シナリオ、誤差指標、公平性基準を初期段階から定義するために、PWDの参加の重要性を強調すること。

提案手法

• 主なAIシステム分野（例：自然言語処理（NLP）、コンピュータビジョン、音声認識）を、障がいの種別（例：発声障がい、認知障がい、運動機能障がい）ごとにリスク評価する。
• 他の疎外されたグループとの類似性に基づき、非標準的発声の認識不良や自閉症スペクトラム障がい者に対するステレオタイプ化といった、潜在的な障害モードに関する仮説を提示する。
• 障がい者（PWD）の多様性を反映した、公開され、倫理的に調達されたベンチマークデータセットの作成を提唱する。
• 知的障がいを有する個人における同意の取得や、脆弱な集団のプライバシー保護といった、データ収集における倫理的課題に対処する。
• 汎用モデルとパーソナライズドモデルのトレードオフを検討し、聴覚障がい者のための特別な音声認識（ASR）モデルなど、カスタムモデルが有効であるが、スケーラビリティに課題があることを指摘する。
• 使用シナリオ、誤差指標、公平性基準を定義するにあたり、障がい者と共同で設計することの重要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 既存のAIシステムは、音声認識、NLP、コンピュータビジョン分野において、障がいを有する人々をどのように不適切に扱っているのか？
• RQ2 現在のバイアス是正技術は、特に少数または多様なサブグループを占めるPWDに対してどの程度効果を発揮するのか？
• RQ3 PWDのための公開データセット作成に伴う倫理的および実務的課題は何か？ そして、それらを責任を持って解決する方法は？
• RQ4 AIの汎用モデルを、障がいの全範囲にわたって公平にできるのか、それともパーソナライゼーションが不可欠なのか？
• RQ5 障がい者がAIシステムの設計、評価、政策決定に意味的に参加できる方法は何か？ これにより、公平性と包括性が確保される。

主な発見

• 音声アシスタントなどの既存のAIシステムは、発声障がいを有する人々の発話を正しく認識できず、サービス品質が著しく低下する。
• AIシステムは、有害なステレオタイプを強化したり、PWDからの入力を異常値として誤認定したりすることで、軽視や排除を助長する可能性がある。
• 感情状態や性格特徴を評価するAIシステムにはバイアスの証拠があり、自閉症スペクトラム障がい者にとって不公正な採用結果をもたらす可能性がある。
• PWDのバイアス是正技術は、代表が不足していることや、交差的障がいの複雑さのため、現在の手法では不十分である可能性がある。
• 知的障がいを有する人々を含む、プライバシー上の懸念や同意の制限（特に認知機能障がいを有する者）のため、PWDの代表的データセットの作成は困難である。
• 特定の障がい（例：聴覚障がい者のためのカスタムASR）に対してはパーソナライズドモデルが有効であるが、アクセシビリティと公平性が優先されない限り、二極化されたシステムに陥る可能性がある。