[논문 리뷰] An Introduction to Algorithmic Fairness

Hilde Weerts|arXiv (Cornell University)|2021. 05. 12.

Ethics and Social Impacts of AI참고 문헌 18인용 수 5

한 줄 요약

이 논문은 알고리즘적 공정성의 핵심 개념을 소개하며, 기계 학습 시스템이 할당, 서비스 품질, 스테레오타입화, 훼손이라는 해로움을 통해 편향을 유지하거나 악화시킬 수 있는 방식을 분석한다. 논문은 기계 학습 생명주기 전반에 걸쳐 편향을 맵핑하고, 맥락에 민감한 공정성 정의와 개발 전반에 걸친 사전적 대응 조치를 통해 체계적 해로움을 줄이도록 주장한다.

ABSTRACT

In recent years, there has been an increasing awareness of both the public and scientific community that algorithmic systems can reproduce, amplify, or even introduce unfairness in our societies. These lecture notes provide an introduction to some of the core concepts in algorithmic fairness research. We list different types of fairness-related harms, explain two main notions of algorithmic fairness, and map the biases that underlie these harms upon the machine learning development process.

연구 동기 및 목표

• 연구자 및 실무자에게 알고리즘적 공정성에 대한 종합적인 개요를 제공하기 위해.
• 기계 학습 시스템에서의 공정성 관련 해로움의 유형을 식별하고 분류하기 위해.
• 기계 학습 개발 생명주기 전반에 걸쳐 편향의 근원을 맵핑하기 위해.
• 공정성이 맥락에 따라 달라지며, 가치 중심 설계가 필요하다는 점을 강조하기 위해.
• 전체 기계 학습 개발 과정 전반에 걸쳐 사전적 편향 완화를 주장하기 위해.

제안 방법

• 공정성 관련 해로움을 할당, 서비스 품질, 스테레오타입화, 훼손의 네 가지 유형으로 분류한다.
• 알고리즘적 공정성의 두 가지 주요 개념인 통계적 평등과 동등한 기회를 소개하며, 이들이 가치를 내포하고 있음을 인정한다.
• 기계 학습 파이프라인 전반에 걸쳐 편향의 근원을 맵핑한다. 데이터 수집, 특징 공학, 모델 훈련, 이해관계자 상호작용 단계를 포함한다.
• 예측 경찰 활동에서의 강화 피드백 루프와 추천 시스템에서의 인기 편향을 분석한다.
• 실제 사례(예: 아마존의 이력서 스크리닝 도구, 얼굴 인식 편향)를 활용해 편향의 확산을 설명한다.
• 시뮬레이션과 시스템 역학 모델링을 사용해 피드백 루프 위험을 예측하고 평가하는 데 도구로 활용한다.

실험 결과

연구 질문

• RQ1 할당, 서비스 품질, 스테레오타입화, 훼손 등의 다양한 공정성 관련 해로움이 기계 학습 시스템에서 어떻게 나타나는가?
• RQ2 기계 학습 생명주기에서 편향이 도입되거나 악화되는 주요 단계는 무엇인가?
• RQ3 예측 경찰 활동과 같은 피드백 루프는 역사적 편향을 어떻게 유지하고 악화시키는가?
• RQ4 왜 알고리즘 시스템에서 공정성의 유일한 보편적 정의가 존재하지 않는가? 그리고 공정성은 어떻게 맥락에 따라 선택되어야 하는가?
• RQ5 종단 간 기계 학습 개발 과정 전반에서 편향을 완화하기 위해 어떤 전략을 활용할 수 있는가?

주요 결과

• 기계 학습 시스템은 민감한 속성을 명시적으로 사용하지 않더라도 사회적 편향을 재현하거나 악화시킬 수 있다. 예를 들어 아마존의 이력서 스크리닝 도구는 여성 관련 용어를 불리하게 평가했다.
• 어두운 피부를 가진 여성의 경우 얼굴 인식 시스템에서 오류율이 높아, 훈련 데이터에서의 부족한 대표성을 이유로 서비스 품질 해로움이 발생한다.
• 예측 경찰 활동에서의 피드백 루프는 자기실현적 예언을 만들어낼 수 있다. 즉, 특정 지역에 경찰이 더 많이 배치되면 더 많은 범죄가 발견되어 편향된 예측이 강화된다.
• 이해관계자 해석 편향(예: 판사가 특정 집단에 대해 위험 점수를 더 무겁게 평가하는 것)은 모델 예측을 넘어서 추가적인 불공정성을 초래할 수 있다.
• 편향된 훈련 데이터로 인해 자연어 처리와 컴퓨터 비전 분야에서 스테레오타입화 해로움이 널리 퍼져 있다. 예를 들어 이미지 검색 결과에서 'CEO'라는 단어가 백인 남성과 연관된다.
• 모든 상황에 적용 가능한 공정성 지표는 존재하지 않는다. 다양한 공정성 기준은 서로 다른 윤리적 가치를 반영하며, 선택은 맥락에 따라 특화되고 가치 기반이어야 한다.