[논문 리뷰] Bias, Fairness, and Accountability with AI and ML Algorithms

Nengfeng Zhou, Zach Zhang외 4명|arXiv (Cornell University)|2021. 05. 13.

Ethics and Social Impacts of AI참고 문헌 47인용 수 9

한 줄 요약

이 논문은 인공지능 및 기계학습 알고리즘에서의 편향, 공정성, 책임성에 대한 종합적인 조사를 제공하며, 데이터 편향의 원인, 알고리즘적 불공정성의 유형, 공정성 메트릭스를 분석한다. 모델 라이프사이클 전반에 걸친 탈편향 기법을 검토하고 현재의 공정성 메트릭스의 한계를 부각하며 기계학습 시스템에서 윤리적 과제를 해결하기 위한 체계적인 프레임워크를 제시한다.

ABSTRACT

The advent of AI and ML algorithms has led to opportunities as well as challenges. In this paper, we provide an overview of bias and fairness issues that arise with the use of ML algorithms. We describe the types and sources of data bias, and discuss the nature of algorithmic unfairness. This is followed by a review of fairness metrics in the literature, discussion of their limitations, and a description of de-biasing (or mitigation) techniques in the model life cycle.

연구 동기 및 목표

• 기계학습 시스템에서의 데이터 편향의 원인과 유형을 체계적으로 분석하기 위해.
• 배포된 기계학습 모델에서 알고리즘적 불공정성의 성격과 표현 양상들을 검토하기 위해.
• 문헌에서 기존의 공정성 메트릭스를 검토하고 비판하며, 그들의 한계를 특정하기 위해.
• 데이터 전처리에서 모델 추론에 이르기까지 기계학습 라이프사이클 전반에 걸친 탈편향 기법을 탐색하기 위해.
• AI 시스템에서의 책임성과 공정성을 향상시키기 위한 체계적인 프레임워크를 제공하기 위해.

제안 방법

• 데이터 수집 및 레이블링 과정을 기반으로 데이터 편향을 표현, 측정, 절차적 유형으로 분류하기 위해.
• 실제 사례 연구를 활용하여 알고리즘적 불공정성을 개인, 집단, 사회 수준의 격차로 분류하기 위해.
• 인구통계적 평등, 동일 기회, 등가된 우도와 같은 공정성 메트릭스를 조사하며, 그들의 가정과 한계를 비판적으로 평가하기 위해.
• 모델 전처리(예: 재가중, 적대적 편향 제거), 내재화(예: 최적화 과정에서의 공정성 제약), 후처리(예: 임계값 조정)를 포함한 기계학습 파이프라인 전반에 걸쳐 탈편향 기법을 맵핑하기 위해.
• 완화 전략에서 공정성, 정확도, 기타 모델 성능 메트릭스 간의 트레이드오프 분석하기 위해.
• 공정성은 다차원적이고 맥락에 따라 달라지는 성질이며, 다학제적 고려가 필요하다는 통합적 시각 제공하기 위해.

실험 결과

연구 질문

• RQ1 기계학습 모델에서 불공정성을 유도하는 주요 데이터 편향의 원인과 유형은 무엇인가?
• RQ2 다양한 공정성 메트릭스는 실무에서 어떻게 작동하며, 그 내재된 한계는 무엇인가?
• RQ3 기계학습 라이프사이클의 각 단계에서 가장 효과적인 탈편향 기법은 무엇인가?
• RQ4 실제 응용에서 공정성은 어떻게 모델 정확도와 유틸리티와 균형을 이루는가?
• RQ5 AI 시스템의 책임성과 투명성을 저해하는 체계적이고 기술적 과제는 무엇인가?

주요 결과

• 데이터 편향은 대표성 없는 표본 추출, 측정 오류, 잘못된 데이터 수집 절차에서 기인하며, 모델 결과에 상당한 영향을 미친다.
• 알고리즘적 불공정성은 일반적으로 훈련 데이터에 존재하는 역사적 편향을 모델이 강화함으로써 발생하며, 고위험 분야인 채용 및 대출 분야에서 특히 두드러진다.
• 인구통계적 평등과 동일 기회와 같은 일반적인 공정성 메트릭스는 맥락에 민감하며, 상호 간에 충돌하거나 모델 정확도와도 충돌할 수 있다.
• 탈편향 기법은 가능성은 있으나 일반적으로 공정성, 정확도, 공정성 기준 간의 트레이드오프를 수반하며, 보편적으로 최적의 해결책은 존재하지 않는다.
• 후처리 방법인 임계값 조정은 재학습 없이도 공정성을 향상시킬 수 있지만, 민감한 응용 분야에서는 모델 유틸리티를 감소시킬 수 있다.
• 논문은 공정성이 한 번의 수리로 해결되는 것이 아니라, 지속적인 모니터링, 맥락 인식 설계, 다학제적 협력이 필요하다고 결론 내린다.