[논문 리뷰] What is the Point of Fairness? Disability, AI and The Complexity of Justice

Cynthia L. Bennett, Os Keyes|arXiv (Cornell University)|2019. 08. 02.

Neuroethics, Human Enhancement, Biomedical Innovations참고 문헌 28인용 수 66

한 줄 요약

이 논문은 AI의 장애 관련 좁은 공정성 프레이밍을 비판하고, 구조적 부정의를 다루는 더 넓은 정의를 주장하기 위해 두 가지 컴퓨터 비전 사례 연구를 제시한다.

ABSTRACT

Work integrating conversations around AI and Disability is vital and valued, particularly when done through a lens of fairness. Yet at the same time, analyzing the ethical implications of AI for disabled people solely through the lens of a singular idea of "fairness" risks reinforcing existing power dynamics, either through reinforcing the position of existing medical gatekeepers, or promoting tools and techniques that benefit otherwise-privileged disabled people while harming those who are rendered outliers in multiple ways. In this paper we present two case studies from within computer vision - a subdiscipline of AI focused on training algorithms that can "see" - of technologies putatively intended to help disabled people but, through failures to consider structural injustices in their design, are likely to result in harms not addressed by a "fairness" framing of ethics. Drawing on disability studies and critical data science, we call on researchers into AI ethics and disability to move beyond simplistic notions of fairness, and towards notions of justice.

연구 동기 및 목표

• 단일한 공정성 개념을 넘어 장애를 포용하는 AI 연구를 촉진한다.
• 장애인 AI 설계에서 공정성만으로 기존의 권력 역학을 강화할 위험을 강조한다.
• 실세계 사례 연구에서 AI 윤리를 분석하기 위해 장애 연구와 비판적 데이터 과학을 활용한다.

제안 방법

• 장애인 보조를 의도한 기술을 포함하는 두 가지 컴퓨터 비전 사례 연구를 제시한다.
• 공정성 프레이밍에도 불구하고 설계 결정과 구조적 부정의에 대한 주의 부족이 해를 초래할 수 있음을 분석한다.
• 현행 윤리 접근법을 비판하기 위해 장애 연구와 비판적 데이터 과학을 활용한다.

실험 결과

연구 질문

• RQ1 장애인에게 영향을 미치는 구조적 부정의를 다루는 데 공정성 중심의 AI 윤리가 어떻게 미치지 못할 수 있는가?
• RQ2 장애 맥락에서 AI 시스템이 초래하는 해와 불평등을 보다 잘 포착할 수 있는 대안적 정의 프레임워크는 무엇인가?
• RQ3 현행 AI 공정성 관행과 게이트키핑 역학이 어떤 방식으로 권력 불균형을 재생산하는가?

주요 결과

• 공정성만으로 장애 맥락에서 기존의 의료 게이트키퍼와 특권적 위치를 강화할 수 있다.
• 장애인을 돕기 위한 AI 시스템은 설계 시 구조적 부정의를 무시하면 해를 초래할 수 있다.
• 장애 연구와 비판적 데이터 과학은 공정을 넘어서 보다 강력한 정의 개념으로 나아가야 한다고 주장한다.
• 사례 연구는 시각 AI의 실패가 더 넓은 정의 고려를 반영하지 못하는 방식을 보여준다.