[論文レビュー] AI Fairness for People with Disabilities: Point of View

Shari Trewin|arXiv (Cornell University)|Nov 26, 2018

Disability Rights and Representation参考文献 2被引用数 16

ひとこと要約

この論文は、障害の多様性が極めて高く、障害関連データが感受性が高いため、障害を有する人々におけるAIの公平性には、別個の枠組みが必要であると主張している。既存の公平性定義を批判し、文脈に応じた公平性指標を提唱するとともに、包摂的デザインとプライバシーを守るデータ実務を推進することで、公平なAIの成果を確保することを提言している。

ABSTRACT

We consider how fair treatment in society for people with disabilities might be impacted by the rise in the use of artificial intelligence, and especially machine learning methods. We argue that fairness for people with disabilities is different to fairness for other protected attributes such as age, gender or race. One major difference is the extreme diversity of ways disabilities manifest, and people adapt. Secondly, disability information is highly sensitive and not always shared, precisely because of the potential for discrimination. Given these differences, we explore definitions of fairness and how well they work in the disability space. Finally, we suggest ways of approaching fairness for people with disabilities in AI applications.

研究の動機と目的

• 従来のAI公平性定義が、障害を有する人々の独自のニーズに対応できないことの検証。
• 障害の表現形態の多様性と適応戦略が、AI公平性の中心的課題であることを強調すること。
• 障害関連データの感受性と、AIシステムにおけるプライバシーおよび差別の禁止への影響を明らかにすること。
• 障害固有の文脈と生活経験を反映した公平性指標の再考を提言すること。
• 障害を有するユーザーを対象とした包摂的デザインと倫理的データ実務をAI開発で推進することを提言すること。

提案手法

• 障害への適用可能性を検証するため、AIにおける既存の公平性定義（例：人口統計的同等性、同等の機会）を批判的に分析すること。
• 障害の多様性と個人の適応戦略を反映する文脈に配慮した公平性指標の必要性を強調すること。
• AI公平性研究および開発プロセスに障害に配慮した視点を統合することを提言すること。
• 障害情報と関連する差別的リスクや社会的偏見の懸念があるため、プライバシーを守るデータ収集の重要性を強調すること。
• 公平性基準をAIシステムに反映させるために、障害を有するコミュニティが参加するデザイン手法を推奨すること。
• 公平性を一様な基準としてではなく、障害に配慮した文脈に応じた動的な構造として再定義することを提言すること。

実験結果

リサーチクエスチョン

• RQ1 既存のAI公平性定義は、障害を有する人々のニーズに対し、どのように不十分であるか？
• RQ2 AI公平性の文脈において、障害体験の多様性が生じさせる独自の課題は何か？
• RQ3 障害関連データの感受性は、機械学習システムにおける公平性とプライバシーにどのように影響するか？
• RQ4 障害に配慮したAI開発に適した代替の公平性枠組みは何か？
• RQ5 障害を有するユーザーは、AIアプリケーションの公平性基準をどのように意味的に関与させることができるか？

主な発見

• 人口統計的同等性や同等の機会といった従来の公平性定義は、AIシステムにおける障害関連の格差のニュアンスを十分に捉えられていない。
• 障害の現れ方や個人の適応戦略の極めて多様な性質は、より詳細で文脈に特化した公平性指標の必要性を示している。
• 障害関連データは感受性が高く、差別のの恐れがあるため、多くの人々がこの情報を非開示する傾向にあり、これによりデータドリブンな公平性アプローチが複雑化している。
• 一様な公平性枠組みは、AIアプリケーションにおける障害の交差的および動的な側面を十分に反映していない。
• 障害を有する人々における公平なAI成果を達成するには、包摂的デザイン実務とプライバシーを守るデータ処理が不可欠である。
• 本論文は、障害中心的で参加型かつ文脈に配慮した手法によって、障害を有する人々の公平性を再定義する必要があると結論づけている。