[논문 리뷰] Contrastive Algorithmic Fairness: Part 1 (Theory)

Tapabrata Chakraborti, Arijit Patra외 1명|arXiv (Cornell University)|2019. 05. 17.

Ethics and Social Impacts of AI참고 문헌 15인용 수 2

한 줄 요약

이 논문은 알고리즘적 의사결정에서 대조적 공정성에 대한 인과적 추론 프레임워크를 제안하며, '왜 이는 하지만 다른 것은 아닐까?'라는 질문에 대해 결과 간의 반사적 대조를 모델링함으로써 해결한다. 공정성을 구조적 인과 모델을 통해 형식화하여 의사결정이 당사자의 자질이 아닌 능력에 기반하는지 평가할 수 있도록 하며, 실제 머신러닝 결정에서의 공정성 평가를 위한 이론적 기반을 제공한다.

ABSTRACT

Was it fair that Harry was hired but not Barry? Was it fair that Pam was fired instead of Sam? How can one ensure fairness when an intelligent algorithm takes these decisions instead of a human? How can one ensure that the decisions were taken based on merit and not on protected attributes like race or sex? These are the questions that must be answered now that many decisions in real life can be made through machine learning. However research in fairness of algorithms has focused on the counterfactual questions what if? or why?, whereas in real life most subjective questions of consequence are contrastive: why this but not that?. We introduce concepts and mathematical tools using causal inference to address contrastive fairness in algorithmic decision-making with illustrative examples.

연구 동기 및 목표

• 알고리즘적 의사결정에서 대조적 '왜 이는 하지만 다른 것은 아닐까?' 질문에 초점을 맞춘 공정성 연구의 격차를 해소하기 위해.
• 특정 결과 간의 대조를 분석함으로써 의사결정의 공정성을 형식화하기 위해, 예를 들어 유사한 능력을 지닌 한 명은 채용되었지만 다른 한 명은 그렇지 않은 경우를 포함한다.
• 보호된 속성에 의해 결정이 영향을 받는지가 아니라 능력에 의해 결정되는지 평가하기 위한 구조적 인과 모델에 기반한 이론적 프레임워크를 개발하기 위해.
• 결정이 본질적으로 대조적 성격을 지닌 실제 머신러닝 시스템에서의 공정성 평가를 위한 수학적 도구를 제공하기 위해.
• 일般적인 반사적 공정성에서 대조적 공정성으로의 공정성 패러다임 전환을 통해 실생활에서 인간이 자연스럽게 공정성을 평가하는 방식과 일치시키기 위해.

제안 방법

• 결정 과정과 보호된 속성(예: 인종, 성별) 및 능력이 결과에 미치는 영향을 표현하기 위해 구조적 인과 모델(SCM)을 사용한다.
• 두 개인 간의 반사적 비교를 통해 대조적 공정성을 정의한다: 한 사람은 결과를 받았고, 다른 사람은 동일한 능력이지만 다른 보호된 속성을 지닌 채로 결과를 받지 못했다.
• do-계산법과 간섭 기반 추론을 적용하여 '왜 A가 B보다 선택되었는가?'라는 대조 질문에 대해 결정이 공정할 확률을 계산한다.
• 보호된 속성에 대한 간섭에 따른 잠재적 결과의 차이를 기반으로 한 공정성 지표를 도입하여, 결정이 편향에 의해 이뤄지지 않도록 보장한다.
• 능력이 결과의 공통 원인이 되고, 보호된 속성이 공분산 요인으로서 공정성 평가에서 제어되어야 할 요소가 되는 인과 그래프로 의사결정 과정을 모델링한다.
• 잠재적 결과 프레임워크를 사용하여 '공정성'을 보호된 속성이 대조적 결정에서 영향을 미치지 않는 것으로 형식화한다.

실험 결과

연구 질문

• RQ1 결정의 중심 질문이 '만약에?'가 아니라 '왜 이는 하지만 다른 것은 아닐까?'일 때, 알고리즘적 의사결정에서 공정성을 어떻게 평가할 수 있는가?
• RQ2 인과적 추론을 사용하여 능력 기반 결정과 편향된 결정을 구별할 수 있는 수학적 프레임워크는 무엇인가?
• RQ3 결정 과정에서 보호된 속성을 능력에서 분리하여 대조적 비교에서의 공정성을 보장하기 위해선 어떻게 해야 하는가?
• RQ4 인과 모델에서 결정이 대조적으로 공정하다고 간주되기 위해 충족해야 할 조건은 무엇인가?
• RQ5 실제 의사결정 맥락에서 대조적 공정성은 전통적인 반사적 공정성과 어떻게 다를까?

주요 결과

• 논문은 대조적 공정성이 구조적 인과 모델을 사용하여 형식적으로 정의될 수 있음을 입증하며, 채용이나 해고와 같은 의사결정에서 정확한 공정성 평가를 가능하게 한다.
• 대조적 의사결정에서의 공정성은 능력이 일정할 때 보호된 속성이 결과에 영향을 미치는지 여부에 따라 달라진다.
• 보호된 속성만 바꾸면 결과가 뒤바뀌는 경우, 즉 동일한 능력에도 불구하고, 그 결정은 대조적으로 불공정하다.
• 이 방법은 평균 공정성 외에도 특정이고 영향력이 큰 대조적 사례에서의 공정성에 대해 심층적으로 감사할 수 있는 이론적 기반을 제공한다.
• 이 접근법은 전통적인 공정성 지표가 대조적 비교에서만 드러나는 중요한 편향 패tern을 놓칠 수 있음을 드러낸다.
• 논문은 실제 생활의 의사결정에서 인간의 직관과 일치하는 공정성 평가를 위한 형식어휘를 기여한다.