[논문 리뷰] AI and Accessibility: A Discussion of Ethical Considerations

Meredith Ringel Morris|arXiv (Cornell University)|2019. 08. 21.

Artificial Intelligence in Healthcare and Education참고 문헌 14인용 수 10

한 줄 요약

이 논문은 장애인이 있는 사람들을 위한 AI 개발에서 발생하는 윤리적 과제를 검토하며, 컴퓨터 비전, 음성 인식, 로봇 공학과 같은 기술을 통해 장애인이 있는 사람들의 사회적 장벽을 줄일 수 있다는 점을 강조한다. 그러나 편향, 개인정보 보호, 포용성 등의 윤리적 문제는 공정한 결과를 보장하기 위해 사전에 해결되어야 한다. 주요 기여는 장애인 중심 윤리 기반의 접근을 AI 설계 초기 단계부터 통합할 수 있는 프레임워크를 제안하는 것이다.

ABSTRACT

According to the World Health Organization, more than one billion people worldwide have disabilities. The field of disability studies defines disability through a social lens; people are disabled to the extent that society creates accessibility barriers. AI technologies offer the possibility of removing many accessibility barriers; for example, computer vision might help people who are blind better sense the visual world, speech recognition and translation technologies might offer real time captioning for people who are hard of hearing, and new robotic systems might augment the capabilities of people with limited mobility. Considering the needs of users with disabilities can help technologists identify high-impact challenges whose solutions can advance the state of AI for all users; however, ethical challenges such as inclusivity, bias, privacy, error, expectation setting, simulated data, and social acceptability must be considered.

연구 동기 및 목표

• 장애가 있는 사람들의 접근성 향상을 위한 AI 시스템에서 발생하는 윤리적 과제를 식별하고 분석하는 것.
• 장애의 사회모델이 포용적인 AI 기술 설계에 어떻게 기여할 수 있는지 부각하는 것.
• 접근성과 윤리적 고려 사항을 AI 개발 과정의 초기 단계에 통합할 것을 주장하는 것.
• AI가 장애가 있는 사용자에게 사회적 장벽을 줄이는데 어떻게 기여할 수 있는지, 동시에 잠재적으로 이러한 장벽을 강화할 수 있는 방식을 검토하는 것.

제안 방법

• 논문은 장애 연구 및 AI 윤리 문헌을 바탕으로 접근법을 활용하여 접근성을 의료적 문제가 아니라 사회적 문제로 프레임워크화한다.
• 컴퓨터 비전, 음성 인식, 로봇 보조 기술과 같은 기존 AI 응용 프로그램을 접근성과 윤리적 리스크의 관점에서 평가한다.
• 연구자가 핵심 윤리적 차원으로서 편향, 개인정보 보호, 오류, 기대치 설정, 시뮬레이션 데이터, 사회적 수용성 등을 식별하여 책임감 있는 AI 개발에 기여한다.
• 사용자 중심의 접근 방식과 참가자 중심 설계의 중요성을 강조하여 장애가 있는 사람들이 AI 개발에 참여하도록 보장한다.
• 논문은 장애가 있는 사용자의 실제 필요와의 괴리 가능성을 경고하며, 접근성 AI 훈련에 인위적 또는 시뮬레이션 데이터를 사용하는 것에 대한 비판을 제기한다.
• 장애가 있는 인구를 대상으로 하는 시스템에서 포용성, 투명성, 책임성을 우선시하는 윤리적 AI 프레임워크를 제안한다.

실험 결과

연구 질문

• RQ1 어떻게 AI 기술을 장애가 있는 사람들의 접근성 장벽을 줄이기 위해 윤리적으로 설계할 수 있는가?
• RQ2 접근성에 AI를 도입할 때 발생할 수 있는 윤리적 리스크(예: 편향, 개인정보 침해, 기대치의 오류)는 무엇인가?
• RQ3 장애의 사회모델은 더 공정한 AI 시스템 개발에 어떻게 기여할 수 있는가?
• RQ4 시뮬레이션 또는 인위적 데이터 세트는 접근성 중심 AI의 실세계 성능과 공정성에 어떤 영향을 미치는가?
• RQ5 장애가 있는 사용자는 접근성 향상을 목적으로 하는 AI 시스템의 설계 및 평가 과정에서 어떤 역할을 해야 하는가?

주요 결과

• AI는 음성 인식 기술을 통해 청각 장애가 있는 사람들을 위한 실시간 자막 제공과 같은 접근성 장벽을 크게 줄일 잠재력을 지닌다.
• 이 잠재력에도 불구하고, AI 시스템은 종종 사회적 편향을 반영하고 강화하며, 특히 포용적이지 않은 또는 인위적 데이터로 훈련된 경우 더욱 그렇다.
• 특히 민감한 생체 정보나 행동 데이터를 수집하는 AI 시스템의 경우, 장애가 있는 사용자에 대한 개인정보 보호 우려가 더욱 높아진다.
• AI 기능에 과도하게 기대를 걸게 되면, 핵심 접근성 맥락에서 시스템이 실패할 경우 기대에 못 미치는 결과를 초래하고 피해를 줄 수 있다.
• 장애가 있는 사용자가 초기 단계부터 참여하는 포용적 설계 과정이 있어야 기존 사회적 불평등을 재생산하는 것을 방지할 수 있다.
• 실제 사용자 피드백 없이 검증되지 않은 채로 시뮬레이션 데이터를 사용해 접근성 AI를 훈련하면 실세계 성능이 떨어질 수 있다.