[論文レビュー] Implications of Computer Vision Driven Assistive Technologies Towards Individuals with Visual Impairment

Linda Wang, Alexander Wong|arXiv (Cornell University)|May 20, 2019

Tactile and Sensory Interactions参考文献 16被引用数 5

ひとこと要約

この論文は、視覚障害を有する人々におけるコンピュータビジョン駆動型補助技術の二重的影響を検討し、物体認識、ナビゲーション、テキスト読み取りなどのタスクを通じて自立性を高める可能性を強調するとともに、アルゴリズムバイアス、プライバシー懸念、開発における排除といった重要な課題にも言及する。研究者が倫理的で包括的かつ効果的なAIソリューションを確保するための、人間中心の設計原則とバイアス低減戦略を提言する。

ABSTRACT

Computer vision based technology is becoming ubiquitous in society. One application area that has seen an increase in computer vision is assistive technologies, specifically for those with visual impairment. Research has shown the ability of computer vision models to achieve tasks such provide scene captions, detect objects and recognize faces. Although assisting individuals with visual impairment with these tasks increases their independence and autonomy, concerns over bias, privacy and potential usefulness arise. This paper addresses the positive and negative implications computer vision based assistive technologies have on individuals with visual impairment, as well as considerations for computer vision researchers and developers in order to mitigate the amount of negative implications.

研究の動機と目的

• 視覚障害を有する人々に与えるコンピュータビジョンベースの補助技術のポジティブおよびネガティブな影響を分析すること。
• 開発ライフサイクルにおけるバイアス、プライバシー、排除といった主要な倫理的・技術的課題を特定すること。
• 包括的設計およびフェアネスに配慮した実践を通じて、コンピュータビジョン研究者が補助AIシステムのネガティブな影響を低減する手助けをすること。
• エンドユーザーの関与が、効果的で使いやすく信頼性のある補助AIシステムを構築する上で重要な役割を果たすことを強調すること。

提案手法

• 視覚障害者向け補助技術における既存のコンピュータビジョンアプリケーションの体系的レビュー。
• 年齢、性別、人種、障害状態などの多様なデモグラフィック要因の不足によるトレーニングデータ内のバイアス要因の分析。
• 補助デバイスにおけるカメラベースのデータ収集および保存に関連するプライバシーリスクの評価。
• IBM AI Fairness 360 や Google の What-If Tool といったフェアネスツールを活用し、モデル内のバイアスを検出および低減する。
• ナビゲーションや認識タスクにおいて、使いやすさと関連性を向上させるために開発段階でエンドユーザーのフィードバックを統合する。
• 補助AIの倫理的・技術的・社会的側面に対応するため、多様なスキルを持つ包括的チームの構築を提言する。

実験結果

リサーチクエスチョン

• RQ1 コンピュータビジョン駆動型補助技術が、視覚障害を有する人々の自立性および自律性に与えるポジティブな影響は何か？
• RQ2 これらの技術を導入することに関連する主なネガティブな影響（バイアス、プライバシー懸念、排除など）は何か？
• RQ3 コンピュータビジョン研究者が補助AIシステムの社会的および倫理的ネガティブな影響をどのように低減できるか？
• RQ4 エンドユーザーの参加は、補助技術の効果性および採用率を向上させる上で果たす役割は何か？
• RQ5 研究者がトレーニングデータおよびモデル開発において、障害を有する人々を含む未代表化グループをどのように対応できるか？

主な発見

• コンピュータビジョンベースの補助技術は、顔認識、テキスト読み取り、屋内／屋外ナビゲーションなどのタスクを可能にすることで、自立性を顕著に高める。
• トレーニングデータ内のバイアスは、女性、人種的マイノリティ、障害を有する人々を含む未代表化グループに対して歪んだ結果をもたらす。
• 継続的なカメラ使用に起因するプライバシー懸念が生じるが、特にデータへのアクセス、保存、潜在的な悪用のリスクが懸念される。一方で、ユーザーは自立性の向上のため、プライバシーをある程度譲る傾向がある。
• 開発段階でのエンドユーザーの排除は、非効率性や使いにくさを引き起こし、実際のユーザーが困難と感じているタスク（例：テキスト認識）ではなくドア検出に焦点を当てたナビゲーションプロトタイプの開発事例から明らかである。
• IBM AI Fairness 360 や What-If Tool といった現在のバイアス低減ツールは、バイアスの検出および低減に役立つが、障害固有のバイアスはまだ十分に研究されておらず、未解決のままである。
• 開発プロセスの初期段階でエンドユーザーを統合することで、より効果的でタスクに即したソリューションが得られ、現実のユーザーのニーズと一致するため、採用率が向上する。