[논문 리뷰] Implications of Computer Vision Driven Assistive Technologies Towards Individuals with Visual Impairment

Linda Wang, Alexander Wong|arXiv (Cornell University)|2019. 05. 20.

Tactile and Sensory Interactions참고 문헌 16인용 수 5

한 줄 요약

이 논문은 시각 장애를 가진 개인에게 컴퓨터 비전 기반 보조 기술이 미치는 双중 영향을 분석하며, 물체 인식, 이동 보조, 텍스트 읽기 등의 작업을 통해 자율성을 향상시킬 잠재력을 강조하면서도, 알고리즘 편향, 개인정보 문제, 개발 과정에서의 배제와 같은 심각한 과제들을 다룹니다. 연구자들이 윤리적이고 포용적이며 효과적인 AI 솔루션을 확보하기 위해 인간 중심의 설계 원칙과 편향 완화 전략을 제안합니다.

ABSTRACT

Computer vision based technology is becoming ubiquitous in society. One application area that has seen an increase in computer vision is assistive technologies, specifically for those with visual impairment. Research has shown the ability of computer vision models to achieve tasks such provide scene captions, detect objects and recognize faces. Although assisting individuals with visual impairment with these tasks increases their independence and autonomy, concerns over bias, privacy and potential usefulness arise. This paper addresses the positive and negative implications computer vision based assistive technologies have on individuals with visual impairment, as well as considerations for computer vision researchers and developers in order to mitigate the amount of negative implications.

연구 동기 및 목표

• 컴퓨터 비전 기반 보조 기술이 시각 장애를 가진 개인에게 미치는 긍정적 및 부정적 영향을 분석하는 것.
• 개발 생애주기 내에서 편향, 개인정보, 배제와 같은 핵심 윤리적 및 기술적 과제를 특정하는 것.
• 포용적 설계와 공정성 인식 기반 실천을 통해 컴퓨터 비전 연구자들이 보조 AI 시스템의 부정적 영향을 줄이는 데 도움을 주는 것.
• 사용자 중심의 접근이 효과적이고 사용자 친화적이며 신뢰할 수 있는 보조 AI 시스템을 만드는 데 있어 중요성을 강조하는 것.

제안 방법

• 시각 장애인을 위한 보조 기술에서의 기존 컴퓨터 비전 응용 프로그램에 대한 체계적 검토.
• 연령, 성별, 인종, 장애 등 다양한 민족적 배경의 부족한 표현을 포함한 훈련 데이터 내 편향 원인 분석.
• 보조 기기에서 카메라 기반 데이터 수집 및 저장과 관련된 개인정보 위험 평가.
• IBM AI Fairness 360 및 Google의 What-If Tool과 같은 공정성 도구를 활용해 모델 내 편향을 탐지하고 완화하는 것.
• 특히 이동 및 인식 작업에서의 사용자 친화성 향상을 위해 개발 과정 중 사용자 피드백 통합.
• 보조 AI의 윤리적, 기술적, 사회적 측면을 해결하기 위해 다양한 역량을 갖춘 다학제적 팀 구성의 필요성 제안.

실험 결과

연구 질문

• RQ1 컴퓨터 비전 기반 보조 기술이 시각 장애를 가진 개인의 자율성과 독립성에 미치는 긍정적 영향는 무엇인가요?
• RQ2 이러한 기술을 도입함에 따라 발생하는 주요 부정적 영향—예를 들어 편향, 개인정보 우려, 배제—는 무엇인가요?
• RQ3 컴퓨터 비전 연구자들은 보조 AI 시스템의 부정적 사회적 및 윤리적 영향을 어떻게 줄일 수 있나요?
• RQ4 사용자 포함이 보조 기술의 효과성과 보급에 기여하는 데 어떤 역할을 하나요?
• RQ5 연구자들은 훈련 데이터 및 모델 개발 과정에서 장애를 가진 사람들을 포함한 소수 집단을 어떻게 보다 적절히 반영할 수 있나요?

주요 결과

• 컴퓨터 비전 기반 보조 기술은 얼굴 인식, 텍스트 읽기, 실내/외 이동 보조 등의 작업을 가능하게 하여 자율성을 크게 향상시킵니다.
• 훈련 데이터 내 편향은 특히 여성, 소수 인종 집단, 장애를 가진 사람들을 포함한 부족한 표현 집단에 대해 왜곡된 결과를 초래합니다.
• 지속적인 카메라 사용은 데이터 접근, 저장, 잠재적 악용과 관련해 개인정보 문제가 발생할 수 있으며, 사용자들은 종종 자율성 확보를 위해 개인정보를 희생하는 경향이 있습니다.
• 개발 과정에서 사용자를 배제하면 비효율과 사용성 저하가 발생합니다. 예를 들어, 사용자가 실제로 어려움을 겪는 텍스트 인식이 아닌 문 열림 감지에 집중한 이동 프로토타입이 그 예입니다.
• IBM AI Fairness 360 및 What-If Tool과 같은 현재의 편향 완화 도구는 편향 탐지 및 감소에 도움이 되지만, 장애 특화 편향은 여전히 연구가 부족하고 해결되지 않은 상태입니다.
• 사용자를 개발 초기 단계부터 포함하면 더 효과적이고 작업에 맞는 솔루션이 도출되며, 실제 사용자 요구와 기술을 맞추어 보급률을 높일 수 있습니다.