[논문 리뷰] Algorithmic Injustices: Towards a Relational Ethics

Abeba Birhane, Fred Cummins|arXiv (Cornell University)|2019. 12. 16.

Ethics and Social Impacts of AI참고 문헌 19인용 수 41

한 줄 요약

이 논문은 순수 기술적 해결책을 넘어 알고리즘 편향성 문제를 다루는 관계적 윤리가 취약한 집단을 중심에 두어야 한다고 주장한다.

ABSTRACT

It has become trivial to point out how decision-making processes in various social, political and economical sphere are assisted by automated systems. Improved efficiency, the hallmark of these systems, drives the mass scale integration of automated systems into daily life. However, as a robust body of research in the area of algorithmic injustice shows, algorithmic tools embed and perpetuate societal and historical biases and injustice. In particular, a persistent recurring trend within the literature indicates that society's most vulnerable are disproportionally impacted. When algorithmic injustice and bias is brought to the fore, most of the solutions on offer 1) revolve around technical solutions and 2) do not focus centre disproportionally impacted groups. This paper zooms out and draws the bigger picture. It 1) argues that concerns surrounding algorithmic decision making and algorithmic injustice require fundamental rethinking above and beyond technical solutions, and 2) outlines a way forward in a manner that centres vulnerable groups through the lens of relational ethics.

연구 동기 및 목표

• 데이터 기반 도구가 인간의 문화, 가치, 도덕성을 내포한다는 것을 인정하고, 따라서 기술적 해결책 이상이 필요하다는 점을 인정한다.
• 알고리즘을 설계하고 평가할 때 불균형적으로 가장 많이 영향을 받는 개인과 집단을 중심에 두어야 한다.
• 편향, 정의, 윤리에 관한 근본적 가정이 역동적이고 맥락 의존적임을 비판적으로 검토한다.
• 알고리즘 시스템에서 단순한 예측보다 이해와 맥락 분석을 촉진한다.

제안 방법

• 윤리를 순전히 기술적 해결책에서 철학적 및 사회적 탐구로 이전할 것을 옹호한다.
• 데이터를 문화, 의미 및 사회적 권력과 연결된 것으로 간주하는 관계적 관점을 강조한다.
• 편향과 공정성을 지속적으로 수정이 필요한 역동적이고 상황에 의존하는 개념으로 다룰 것을 제안한다.
• 알고리즘이 분류를 수행하는 것뿐만 아니라 사회적 규범과 질서를 형성한다고 주장한다.
• 사회가 진화함에 따라 무엇이 공정성과 윤정을 구성하는지에 대한 지속적인 재구성을 권고한다.

실험 결과

연구 질문

• RQ1 가장 크게 영향을 받는 사람들을 중심에 두기 위해 기술적 해결책을 넘어 알고리즘적 불의를 어떻게 다루어야 하는가?
• RQ2 사회적으로 논쟁이 되는 영역에서 알고리즘 시스템을 평가하고 배치할 때 관계적 윤리는 무엇을 요구하는가?
• RQ3 편향, 공정성, 정의와 같은 개념은 시간에 따라 맥락에 따라 어떻게 변하는가?
• RQ4 알고리즘적 분류가 사회 질서에 어떤 방식으로 기여하며, 이를 어떻게 해결할 수 있는가?

주요 결과

• 관계적 윤리는 불균형하게 영향을 받는 그룹을 모든 해결책의 출발점으로 삼는다.
• 민감한 영역(예: 형무소)에서 예측 모델링에 앞서 이해와 맥락적 근거가 우선해야 한다.
• 알고리즘은 도구일 뿐만 아니라 사회적 규범과 질서를 창조하고 강화하는 데에 참여하는 주체이다.
• 공정성과 윤리는 맥락과 시간에 걸쳐 열린, 반복적 재평가를 필요로 하는 변하는 목표이다.
• 깊이 뿌리내린 편향과 사회적 불의를 해결하기에는 기술적 해결책만으로는 충분하지 않다.