[論文レビュー] AI and Accessibility: A Discussion of Ethical Considerations

Meredith Ringel Morris|arXiv (Cornell University)|Aug 21, 2019

Artificial Intelligence in Healthcare and Education参考文献 14被引用数 10

ひとこと要約

この論文は、障害者向けのAI開発における倫理的課題を検討しており、コンピュータビジョン、音声認識、ロボット工学などの技術を通じて、障害者に対する社会的障壁を軽減できる一方で、バイアス、プライバシー、包摂性といった倫理的問題を前もって解決しなければ、公平な結果を得ることはできないと強調している。主な貢献は、障害者に配慮した倫理的枠組みをAI設計の初期段階から統合するためのフレームワークの提言である。

ABSTRACT

According to the World Health Organization, more than one billion people worldwide have disabilities. The field of disability studies defines disability through a social lens; people are disabled to the extent that society creates accessibility barriers. AI technologies offer the possibility of removing many accessibility barriers; for example, computer vision might help people who are blind better sense the visual world, speech recognition and translation technologies might offer real time captioning for people who are hard of hearing, and new robotic systems might augment the capabilities of people with limited mobility. Considering the needs of users with disabilities can help technologists identify high-impact challenges whose solutions can advance the state of AI for all users; however, ethical challenges such as inclusivity, bias, privacy, error, expectation setting, simulated data, and social acceptability must be considered.

研究の動機と目的

• 障害者向けに設計されたAIシステムにおける倫理的課題を特定・分析すること。
• 社会的モデルが包摂的AI技術の設計にどのように寄与するかを強調すること。
• AI開発プロセスの初期段階でアクセシビリティと倫理的配慮を統合することを提唱すること。
• AIが障害者にとって社会的障壁を軽減する一方で、逆にそれらを強化する可能性がある方法を検討すること。

提案手法

• 論文は、障害者研究とAI倫理の文献を基に、アクセシビリティを医学的問題ではなく社会的問題として位置づける視点に基づく。
• コンピュータビジョン、音声認識、ロボット支援などの既存のAI応用を、アクセシビリティと倫理的リスクの観点から評価する。
• AI開発における責任ある実践に不可欠な、バイアス、プライバシー、誤り、期待値の設定、シミュレートされたデータ、社会的受容性といった倫理的次元を同定する。
• 障害者による参加型設計やユーザー中心の手法を強調し、障害者によるAI開発への関与を保証する。
• アクセシビリティ向けAIの学習に合成的またはシミュレートされたデータを使用することの批判を行い、現実世界のユーザー要件とのずれの可能性を警告する。
• 障害者集団を対象とするシステムにおいて、包摂性、透明性、責任性を最優先する倫理的AIフレームワークを提言する。

実験結果

リサーチクエスチョン

• RQ1 AI技術は、障害者向けのアクセシビリティ障壁をどのように倫理的に設計できるか？
• RQ2 アクセシビリティにAIを導入する際、バイアス、プライバシー侵害、不適切な期待値の設定といった倫理的リスクはどのように生じるか？
• RQ3 障害の社会的モデルは、より公平なAIシステムの開発にどのように寄与できるか？
• RQ4 シミュレートされたまたは合成されたデータセットは、アクセシビリティ指向AIの実世界での性能と公平性にどのような影響を及ぼすか？
• RQ5 障害者ユーザーは、アクセシビリティを向上させる目的のAIシステムの設計および評価において、どのような役割を果たすべきか？

主な発見

• AIは、音声認識を活用したリアルタイム字幕表示により、難聴者に対してアクセシビリティ障壁を顕著に軽減する可能性を有する。
• この可能性にもかかわらず、AIシステムはしばしば社会的バイアスを反映・強化しており、特に包括的でない、または合成されたデータで学習された場合に顕著である。
• 特にバイオメトリクス的または行動的データを収集するAIシステムでは、障害者におけるプライバシー懸念が顕著に高まる。
• AIの能力を誇張することで、システムが重要なアクセシビリティ文脈で失敗した場合に、期待を裏切る結果となり、被害を及ぼす可能性がある。
• 障害者を初期段階から関与させる包摂的設計プロセスは、既存の社会的不平等を強化するのを防ぐために不可欠である。
• 実際のユーザーのフィードバックによる検証がなければ、アクセシビリティ向けAIの学習にシミュレートされたデータを使用することは、実世界での性能を低下させる可能性がある。