[논문 리뷰] Measuring Non-Expert Comprehension of Machine Learning Fairness Metrics

Debjani Saha, Candice Schumann외 4명|arXiv (Cornell University)|2019. 12. 17.

Ethics and Social Impacts of AI인용 수 29

한 줄 요약

이 연구는 간단한 언어로 설명된 세 가지 기계학습 투명성 기준—인구 통계적 평등, 동등한 기회, 등가된 기회—에 대한 비전문가의 이해도를 온라인 설문 조사로 조사한다. 연구 결과, 교육 수준이 이해도를 예측하는 데 중요한 요소이며, 특히 거짓 음성 비율을 포함한 동등한 기회 정의는 직관적이지 않아 이해하기 어려운 것으로 나타났다. 또한 낮은 이해도는 공정성 규칙에 대한 부정적인 감정과 관련이 적어, 기계학습 연구자와 일반 대중 간의 소통 격차를 드러낸다.

ABSTRACT

Bias in machine learning has manifested injustice in several areas, such as medicine, hiring, and criminal justice. In response, computer scientists have developed myriad definitions of fairness to correct this bias in fielded algorithms. While some definitions are based on established legal and ethical norms, others are largely mathematical. It is unclear whether the general public agrees with these fairness definitions, and perhaps more importantly, whether they understand these definitions. We take initial steps toward bridging this gap between ML researchers and the public, by addressing the question: does a lay audience understand a basic definition of ML fairness? We develop a metric to measure comprehension of three such definitions--demographic parity, equal opportunity, and equalized odds. We evaluate this metric using an online survey, and investigate the relationship between comprehension and sentiment, demographics, and the definition itself.

연구 동기 및 목표

• 비전문가가 평이한 언어로 설명된 기계학습 공정성 정의를 이해하는지 평가하기.
• 비전문가의 공정성 기준 이해도에 영향을 주는 요인을 특정하기.
• 공정성 규칙에 대한 감정과 이해도 수준 간의 관계를 분석하기.
• 실제 채용 맥락에서 세 가지 주요 공정성 정의의 상대적 이해도를 비교하기.

제안 방법

• 비전문가 참가자를 대상으로 간단한 채용 시나리오를 활용해 공정성 정의를 설명한 두 차례의 온라인 설문 조사 실시.
• 시나리오 기반 질문에 대한 정답 수를 기반으로 이해도 점수 개발.
• 이해도 지표의 신뢰성과 일관성을 평가하기 위해 통계 분석 수행.
• 인구 통계 데이터와 감정 반응을 수집하여 이해도와의 상관관계 분석.
• 참가자 일부를 대상으로 정성적 인터뷰 방법을 적용해 답변 배경에 대한 사고 과정 탐색.
• 정의의 복잡성과 직관적이지 않은 요소(예: 동등한 기회에서의 거짓 음성 비율)가 이해도에 미치는 영향 평가.

실험 결과

연구 질문

• RQ1 RQ1: 비기술적 설명이 제공될 경우, 비전문가들은 인구 통계적 평등, 동등한 기회, 등가된 기회 정의를 이해할 수 있는가?
• RQ2 RQ2: 교육 수준, 인구 통계, 정의 구조 등 어떤 요인이 이러한 공정성 정의의 이해도에 영향을 주는가?
• RQ3 RQ3: 이해도는 공정성 규칙에 대한 감정과 어떻게 관련이 있는가?
• RQ4 RQ4: 비전문가들 사이에서 세 가지 공정성 정의의 이해도는 어떻게 비교되는가?

주요 결과

• 교육 수준은 이해도를 예측하는 데 유의미한 요소였으며, 높은 교육 수준일수록 공정성 정의에 대한 이해도가 높아졌다.
• 거짓 음성 비율을 포함한 동등한 기회 정의는 인구 통계적 평등이나 등가된 기회보다 유의미하게 이해하기 어려웠다.
• 낮은 이해도 점수를 받은 참가자들은 공정성 규칙에 대해 더 적은 부정적인 감정을 표현했으며, 이는 이해도와 공정성 인식 간의 괴리가 있음을 시사한다.
• 이해도 점수 지표는 인구 통계적 평등에 대한 이해도 측정에 일관성과 신뢰성을 보였다.
• 연구에서는 특히 거짓 음성 비율을 포함한 직관적이지 않은 요소들이 비전문가의 이해도를 크게 저해하는 것으로 나타났다.
• 기계학습 연구자들이 제시하는 공정성 정의와 일반 대중의 이해도 사이에 뚜렷한 격차가 있으며, 이는 실생활 AI 구현 시 더 명확한 소통의 필요성을 강조한다.