[論文レビュー] What is the Point of Fairness? Disability, AI and The Complexity of Justice
論文は、障害に対するAIの狭い公正さの枠組みを批判し、構造的正義を扱うより広い正義の概念を主張します。
Work integrating conversations around AI and Disability is vital and valued, particularly when done through a lens of fairness. Yet at the same time, analyzing the ethical implications of AI for disabled people solely through the lens of a singular idea of "fairness" risks reinforcing existing power dynamics, either through reinforcing the position of existing medical gatekeepers, or promoting tools and techniques that benefit otherwise-privileged disabled people while harming those who are rendered outliers in multiple ways. In this paper we present two case studies from within computer vision - a subdiscipline of AI focused on training algorithms that can "see" - of technologies putatively intended to help disabled people but, through failures to consider structural injustices in their design, are likely to result in harms not addressed by a "fairness" framing of ethics. Drawing on disability studies and critical data science, we call on researchers into AI ethics and disability to move beyond simplistic notions of fairness, and towards notions of justice.
研究の動機と目的
- 単一の公正さ概念を超えた障害者を含むAI研究を動機づける。
- 障害を持つ人々のAI設計における公正さだけが既存の権力ダイナミクスを強化するリスクを強調する。
- 実世界の事例研究を分析するために障害研究とクリティカルデータサイエンスを用いる。
提案手法
- 障害を支援することを意図した技術を含む2つのコンピュータビジョン事例研究を提示する。
- 公正さのframingにもかかわらず、設計決定と構造的不正への配慮の欠如が害を引き起こす方法を分析する。
- 障害研究とクリティカルデータサイエンスを用いて現在の倫理アプローチを批評する。
実験結果
リサーチクエスチョン
- RQ1公正さに焦点を当てたAI倫理は、障害を持つ人々に影響を与える構造的不正に対処する際にどのように不十分になり得るか。
- RQ2障害の文脈において、AIシステムが生み出すすべての害と不平等をより適切に捉える代替的な正義の枠組みは何か。
- RQ3現行のAI公正性の実践とゲートキーピングのダイナミクスは、どのように権力の不均衡を再生産しているのか。
主な発見
- 公正さだけでは、障害の文脈における既存の医療ゲートキーパーや特権的地位を強化し得る。
- 障害者を支援することを目的としたAIシステムは、設計時に構造的不正を無視すると害を引き起こす可能性がある。
- 障害研究とクリティカルデータサイエンスは、公正さを超えたより強固な正義の概念へ移行することを提唱する。
- 事例研究は、視覚AIの失敗がより広い正義の配慮を説明できないことを示している。
より良い研究を、今すぐ始めましょう
論文設計から論文執筆まで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。