[论文解读] Implications of Computer Vision Driven Assistive Technologies Towards Individuals with Visual Impairment

Linda Wang, Alexander Wong|arXiv (Cornell University)|May 20, 2019

Tactile and Sensory Interactions参考文献 16被引用 5

一句话总结

本文探讨了计算机视觉驱动的辅助技术对视觉障碍者产生的双重影响，强调其在物体识别、导航和文本阅读等任务中提升独立性的潜力，同时关注算法偏见、隐私担忧以及开发过程中的排斥问题。文章为研究人员提出了以人为本的设计原则和偏见缓解策略，以确保人工智能解决方案的伦理、包容与高效。

ABSTRACT

Computer vision based technology is becoming ubiquitous in society. One application area that has seen an increase in computer vision is assistive technologies, specifically for those with visual impairment. Research has shown the ability of computer vision models to achieve tasks such provide scene captions, detect objects and recognize faces. Although assisting individuals with visual impairment with these tasks increases their independence and autonomy, concerns over bias, privacy and potential usefulness arise. This paper addresses the positive and negative implications computer vision based assistive technologies have on individuals with visual impairment, as well as considerations for computer vision researchers and developers in order to mitigate the amount of negative implications.

研究动机与目标

• 分析基于计算机视觉的辅助技术对视觉障碍者所产生的积极与消极影响。
• 识别开发生命周期中与偏见、隐私和排斥相关的关键伦理与技术挑战。
• 指导计算机视觉研究人员通过包容性设计与公平意识实践减轻负面冲击。
• 强调终端用户参与在塑造有效、可用且可信的辅助人工智能系统中的重要性。

提出的方法

• 对现有用于视觉障碍者辅助技术的计算机视觉应用进行系统性综述。
• 分析训练数据中偏见的来源，包括年龄、性别、种族和残疾等多样化人群的代表性不足。
• 评估基于摄像头的数据采集与存储在辅助设备中带来的隐私风险。
• 应用公平性工具如IBM AI Fairness 360和Google的What-If Tool，以检测并缓解模型中的偏见。
• 在开发过程中整合终端用户反馈，以提升可用性与相关性，特别是在导航与识别任务中。
• 倡导组建具备多样化技能的跨学科团队，以应对辅助人工智能在伦理、技术与社会层面的多重维度。

实验结果

研究问题

• RQ1 基于计算机视觉的辅助技术对视觉障碍者独立性与自主性产生了哪些积极影响？
• RQ2 在部署这些技术时，与偏见、隐私担忧及排斥相关的重大负面后果有哪些？
• RQ3 计算机视觉研究人员如何减少辅助人工智能系统带来的负面社会与伦理影响？
• RQ4 终端用户参与在提升辅助技术的有效性与采纳率方面发挥着何种作用？
• RQ5 研究人员应如何在训练数据集与模型开发中解决代表性不足群体（包括残障人士）的问题？

主要发现

• 基于计算机视觉的辅助技术显著提升了独立性，使用户能够执行面部识别、文本阅读以及室内外导航等任务。
• 训练数据中的偏见导致结果失真，尤其对女性、少数族裔及残障人士等代表性不足群体影响显著。
• 持续使用摄像头引发隐私担忧，特别是在数据访问、存储及潜在滥用方面；尽管如此，用户往往愿意为获得更大自主权而牺牲部分隐私。
• 开发过程中排除终端用户会导致效率低下与可用性降低，例如导航原型过度关注门检测，而忽视了用户真正感到困难的文本识别任务。
• 当前的偏见缓解工具如IBM AI Fairness 360和What-If Tool可帮助检测与减少偏见，但针对残障群体的特定偏见仍研究不足且未被充分解决。
• 在设计初期即纳入终端用户，可带来更有效、更契合任务需求的解决方案，并通过贴合真实世界用户需求提升技术采纳率。