[논문 리뷰] Toward Fairness in AI for People with Disabilities: A Research Roadmap

Anhong Guo, Ece Kamar외 3명|arXiv (Cornell University)|2019. 07. 04.

Assistive Technology in Communication and Mobility참고 문헌 40인용 수 31

한 줄 요약

이 논문은 장애를 가진 사람들을 위한 인공지능(AI)의 공정성 문제를 해결하기 위한 연구 로드맵을 제안한다. 기존 AI 시스템에서 발생할 수 있는 위험 요소들—예를 들어 음성 인식 실패나 편향된 의사결정—이 장애를 가진 사람들을 배제하거나 해칠 수 있음을 밝히며, 포괄적인 데이터 수집, 벤치마크 데이터셋, 그리고 새로운 모델링 기법의 도입을 통해 다양한 장애 집단에게 효과적이고 공정한 AI 시스템을 확보할 것을 촉구한다.

ABSTRACT

AI technologies have the potential to dramatically impact the lives of people with disabilities (PWD). Indeed, improving the lives of PWD is a motivator for many state-of-the-art AI systems, such as automated speech recognition tools that can caption videos for people who are deaf and hard of hearing, or language prediction algorithms that can augment communication for people with speech or cognitive disabilities. However, widely deployed AI systems may not work properly for PWD, or worse, may actively discriminate against them. These considerations regarding fairness in AI for PWD have thus far received little attention. In this position paper, we identify potential areas of concern regarding how several AI technology categories may impact particular disability constituencies if care is not taken in their design, development, and testing. We intend for this risk assessment of how various classes of AI might interact with various classes of disability to provide a roadmap for future research that is needed to gather data, test these hypotheses, and build more inclusive algorithms.

연구 동기 및 목표

• 현재의 AI 시스템이 편향된 데이터, 설계, 평가 방식으로 인해 장애를 가진 사람들을 실패하거나 차별할 수 있는 방식을 규명하는 것.
• 특히 장애 유형의 '긴 尾(꼬리)' 특성과 그들의 낮은 대표성으로 인해, 장애를 가진 사람들을 대상으로 한 편향 탐지 및 완화의 고유한 과제를 부각하는 것.
• 포괄성 가설의 체계적 테스트와, 장애를 가진 사람들을 위한 윤리적이고 대표적인 벤치마크 데이터셋 구축을 위한 주장.
• 다양한 장애 공동체의 필요에 맞춰진 새로운 모델링 및 편향 완화 기법을 탐색하는 것.
• 사용 시나리오, 오류 측정 기준, 공정성 기준을 수립할 때 장애를 가진 사람들의 사전 참여가 중요하다는 것을 강조하는 것.

제안 방법

• 다양한 장애 유형(예: 언어 장애, 인지 장애, 이동 장애)에 걸쳐 주요 AI 시스템 유형(예: 자연어 처리, 컴퓨터 비전, 음성 인식)의 위험 평가를 수행하는 것.
• 기타 소수자 집단과의 유사성에 기반해, 비표준 어조의 인식 실패나 자폐 스펙트럼 장애를 가진 개인에 대한 스테레오타입화와 같은 잠재적 고장 모드에 대한 가설을 제시하는 것.
• 장애를 가진 사람들의 다양성을 반영한 공공의 윤리적 기반 데이터셋 구축을 위한 주장.
• 지적 장애가 있는 개인의 동의 문제나 취약 집단의 개인정보 보호 문제와 같은 데이터 수집의 윤리적 과제를 다루는 것.
• 일반 목적 모델과 개인 맞춤형 모델 간의 상충 관계를 탐색하며, 청각 장애가 있는 사람을 위한 맞춤형 모델(예: 청각 장애인 전용 음성 인식 모델)이 더 효과적일 수 있지만, 확장성은 떨어질 수 있음을 지적하는 것.
• 실제 요구에 맞는 시스템이 되기 위해 장애를 가진 사람들의 공동 설계 참여를 통해 오류 측정 기준, 사용 시나리오, 공정성 기준을 정의할 것을 촉구하는 것.

실험 결과

연구 질문

• RQ1 기존 AI 시스템은 음성 인식, 자연어 처리, 컴퓨터 비전 분야에서 장애를 가진 사람들을 어떻게 실패시키는가?
• RQ2 현재의 편향 완화 기법이 소수 또는 다양성이 높은 하위군을 대상으로 할 때 얼마나 효과적인가?
• RQ3 장애를 가진 사람들을 위한 공공 데이터셋을 구축할 때 발생하는 윤리적 및 실용적 과제는 무엇이며, 어떻게 책임감 있게 해결할 수 있는가?
• RQ4 일반 목적 AI 모델이 장애의 전반적인 스펙트럼에서 공정하게 작동하도록 만들 수 있는가, 아니면 개인 맞춤형 모델이 필수적인가?
• RQ5 장애를 가진 사람들이 AI 시스템의 설계, 평가, 정책 수립에 의미 있게 참여할 수 있는 방법은 무엇인가?

주요 결과

• 예를 들어 음성 기반 보조 장치와 같은 많은 기존 AI 시스템은 언어 장애가 있는 사람들의 발화를 인식하지 못해 서비스 품질이 떨어진다.
• AI 시스템은 유해한 스테레오타입을 강화하거나 장애를 가진 사람들의 입력을 이상치로 잘못 분류해 경시하거나 배제할 수 있다.
• 감정 상태나 성격 특성을 평가하는 AI 시스템에서 편향의 증거가 있으며, 이는 자폐 스펙트럼 장애를 가진 개인의 불공정한 채용 결과를 초래할 수 있다.
• 장애를 가진 사람들을 위한 현재의 편향 완화 기법은 그들의 부족한 대표성과 복합적인 교차 장애의 복잡성으로 인해 충분하지 않을 수 있다.
• 특히 지적 장애가 있는 사람들의 동의 제한과 개인정보 노출 위험으로 인해, 장애를 가진 사람들을 위한 대표성 있는 데이터셋을 구축하는 것은 어려운 과제이다.
• 특정 장애(예: 청각 장애인 전용 음성 인식 모델)를 위한 맞춤형 모델은 잠재력을 보이고 있지만, 접근성과 공정성이 우선시되지 않으면 이중 구조 시스템이 만들어질 수 있다.