[논문 리뷰] AI Fairness for People with Disabilities: Point of View

Shari Trewin|arXiv (Cornell University)|2018. 11. 26.

Disability Rights and Representation참고 문헌 2인용 수 16

한 줄 요약

이 논문은 장애를 가진 사람들을 위한 인공지능의 공정성은 장애의 극도로 다양하고 장애 데이터의 민감성 때문에 별도의 프레임워크가 필요하다고 주장한다. 기존의 공정성 정의를 비판하고, 맥락에 맞는 공정성 지표를 제안하며, 포괄적 설계와 개인정보 보호 기반 데이터 관리 방식을 통해 공정한 인공지능 결과를 확보할 것을 주장한다.

ABSTRACT

We consider how fair treatment in society for people with disabilities might be impacted by the rise in the use of artificial intelligence, and especially machine learning methods. We argue that fairness for people with disabilities is different to fairness for other protected attributes such as age, gender or race. One major difference is the extreme diversity of ways disabilities manifest, and people adapt. Secondly, disability information is highly sensitive and not always shared, precisely because of the potential for discrimination. Given these differences, we explore definitions of fairness and how well they work in the disability space. Finally, we suggest ways of approaching fairness for people with disabilities in AI applications.

연구 동기 및 목표

• 기존의 인공지능 공정성 정의가 장애를 가진 사람들의 고유한 필요를 충족시키지 못하는 방식을 검토하는 것.
• 장애의 표현 방식과 적응 전략의 다양성이 인공지능 공정성의 핵심 과제가 되는 것을 부각하는 것.
• 장애 데이터의 민감성과 이를 통한 인공지능 시스템에서의 개인정보 보호 및 차별 금지에 대한 영향을 다루는 것.
• 장애 특화 맥락과 삶의 경험을 반영한 공정성 지표 재고를 제안하는 것.
• 장애를 가진 사용자를 고려한 포괄적 설계 및 윤리적인 데이터 관리 방식을 인공지능 개발에 적극적으로 도입할 것을 주장하는 것.

제안 방법

• 장애 적용에 적합한지 평가하기 위해 기존의 인공지능 공정성 정의(예: 인구 통계적 평등, 동일 기회)를 비판적으로 분석하는 것.
• 장애의 이질성과 개인의 적응 전략을 반영한 맥락 인지형 공정성 지표의 필요성을 강조하는 것.
• 인공지능 공정성 연구 및 개발 과정에 장애 지향적 관점을 통합할 것을 제안하는 것.
• 장애 정보와 관련된 낙인과 차별 위험으로 인해 개인정보 보호 기반 데이터 수집의 중요성을 강조하는 것.
• 장애를 가진 공동체의 참여를 통해 인공지능 시스템의 공정성 기준을 설계할 것을 권고하는 것.
• 공정성을 표준화된 일괄 기준이 아닌, 장애를 중심으로 하되 동적인, 맥락에 민감한 개념으로 재정의할 것을 주장하는 것.

실험 결과

연구 질문

• RQ1 기존의 인공지능 공정성 정의는 장애를 가진 사람들의 요구를 충족시키지 못하는 방식으로 어떤 점에서 부족한가?
• RQ2 인공지능 공정성의 맥락에서 장애 경험의 다양성으로 인해 발생하는 고유한 과제는 무엇인가?
• RQ3 장애 데이터의 민감성이 기계학습 시스템에서의 공정성과 개인정보 보호에 어떤 영향을 미치는가?
• RQ4 장애 포함 인공지능 개발에 적합한 대안적 공정성 프레임워크는 무엇인가?
• RQ5 장애를 가진 사용자가 인공지능 응용 프로그램의 공정성 기준을 설계하는 데 의미 있게 참여할 수 있는 방법은 무엇인가?

주요 결과

• 인구 통계적 평등과 동일 기회와 같은 전통적 공정성 정의는 인공지능 시스템 내 장애 관련 격차의 미묘한 특성을 반영하지 못한다.
• 장애가 어떻게 나타나고 개인이 어떻게 적응하는지에 대한 극도의 다양성은 더 세분화되고 맥락에 특화된 공정성 지표가 필요함을 시사한다.
• 장애 데이터는 매우 민감하며, 개인은 차별에 대한 두려움으로 인해 이 정보를 숨기기 때문에 데이터 기반의 공정성 접근 방식이 복잡해진다.
• 일괄적인 공정성 프레임워크는 인공지능 응용 프로그램에서 장애의 상호작용적이고 동적인 특성을 반영하지 못한다.
• 장애를 가진 사람들을 위한 공정한 인공지능 결과를 달성하기 위해 포괄적 설계 방식과 개인정보 보호 기반 데이터 처리가 필수적이다.
• 논문은 장애 중심의, 참여 기반의, 맥락 인지형 접근 방식을 통해 장애를 가진 사람들을 위한 공정성을 재정의해야 한다고 결론 내린다.