[논문 리뷰] Group Retention when Using Machine Learning in Sequential Decision Making: the Interplay between User Dynamics and Fairness

Xueru Zhang, Khalili, Mohammad Mahdi외 2명|arXiv (Cornell University)|2019. 05. 02.

Insurance, Mortality, Demography, Risk Management인용 수 14

한 줄 요약

이 논문은 기계학습에서의 공정성 기준이 순차적 의사결정 시스템에서 장기적인 집단 표현에 미치는 영향을 조사하며, 공정성 정의가 일치하지 않을 경우 시간이 지남에 따라 표현 격차가 악화될 수 있음을 보여준다. 사용자 동역학 모델을 제안하여 공정성 기준을 유저 이탈/유입 메커니즘과 일치시켜, 오직 사용자 이탈/유입 메커니즘과 일치하는 공정성 기준만이 집단 표현을 유지할 수 있음을 입증한다. 실험 결과는 EqLos 공정성 기준이 집단 균형을 유지하는 반면, 다른 기준들은 배제를 초래함을 확인한다.

ABSTRACT

Machine Learning (ML) models trained on data from multiple demographic groups can inherit representation disparity (Hashimoto et al., 2018) that may exist in the data: the model may be less favorable to groups contributing less to the training process; this in turn can degrade population retention in these groups over time, and exacerbate representation disparity in the long run. In this study, we seek to understand the interplay between ML decisions and the underlying group representation, how they evolve in a sequential framework, and how the use of fairness criteria plays a role in this process. We show that the representation disparity can easily worsen over time under a natural user dynamics (arrival and departure) model when decisions are made based on a commonly used objective and fairness criteria, resulting in some groups diminishing entirely from the sample pool in the long run. It highlights the fact that fairness criteria have to be defined while taking into consideration the impact of decisions on user dynamics. Toward this end, we explain how a proper fairness criterion can be selected based on a general user dynamics model.

연구 동기 및 목표

• 순차적 기계학습 시스템에서 공정성 기준이 집단 표현에 끼치는 장기적 영향을 이해하는 것.
• 사용자 동역학(유입 및 이탈)이 기계학습 결정과 공정성 개입과 어떻게 상호작용하는지 모델링하는 것.
• 공정성 기준이 시간이 지남에 따라 표현 격차를 악화시키거나 완화시키는 조건을 특정하는 것.
• 집단 감소를 방지하기 위해 사용자 유지를 고려한 공정성 기준 선택 프레임워크를 제안하는 것.

제안 방법

• 시간에 따라 변하는 특성 분포와 집단 규모를 추적하는 두 개의 인구집단을 가진 순차적 의사결정 모델을 수립한다.
• 이탈/유입 비율이 결정 결과(예: 거짓 양성/음성 비율, 느끼는 손실)에 따라 달라지는 사용자 유지를 모델링한다.
• 사용자 동역학에 따라 다양한 조건에서 네 가지 공정성 기준(통계적 평등, 동등 기회, 동등한 오차, EqLos)의 영향을 분석한다.
• 일반적인 사용자 동역학 모델을 활용하여 공정성 기준이 집단 표현을 유지하는지 악화시키는지 조건을 유도한다.
• 다양한 특성 분포와 유입 비율을 가진 시뮬레이션 실험을 수행하여 장기적인 집단 비율 변화를 평가한다.
• 베이즈 최적 결정과 시스템에 남아 있는 사용자로부터 학습된 결정을 비교하여 모델 정확도 저하 영향을 평가한다.

실험 결과

연구 질문

• RQ1 일반적으로 사용되는 공정성 기준이 순차적 의사결정 시스템에서 장기적으로 집단 표현에 어떻게 영향을 미치는가?
• RQ2 어떤 조건에서 공정성 개입이 열등 집단의 배제 또는 심지어 멸종을 초래하는가?
• RQ3 통계적 공정성을 충족함에도 불구하고 일부 공정성 기준이 집단 표현을 유지하지 못하는 이유는 무엇인가?
• RQ4 공정성 기준과 사용자 유지 메커니즘이 얼마나 잘 일치하는가에 따라 장기적 시스템 공정성이 어떻게 영향을 받는가?
• RQ5 사용자 동역학 모델이 표현 격차 악화를 방지하는 공정성 기준 선택을 안내할 수 있는가?

주요 결과

• 일반적으로 사용되는 공정성 기준인 통계적 평등과 동등 기회 하에서, 열등 집단은 시간이 지남에 따라 시스템에서 배제되거나 사라질 수 있으며, 특히 다수 집단보다 손실이 낮을 경우 더욱 심각하다.
• EqLos 공정성 기준—각 집단 간 손실을 동일하게 하는 것—은 비대칭 유입 비율 조건 하에서도 무한 시간 동안 집단 표현을 유지한다.
• 사용자 이탈 원인(예: 거짓 음성 비율 또는 느끼는 손실)과 일치하지 않는 공정성 기준은 공정성 보장이 있더라도 표현 격차를 악화시킨다.
• 감소하는 사용자 풀에서 결정을 학습할 경우 모델 정확도가 떨어지고 표현 격차가 가속화되며, 특히 단순, EqOpt, StatPar 공정성 기준에서 두드러진다.
• 사용자 동역학이 하위 집단별로 다른 손실을 느끼는 데 기반할 경우, 어떤 공정성 기준도 집단 표현을 유지할 수 없으며, 이는 메커니즘 인지 공정성의 필요성을 강조한다.
• 실험 결과는 결정이 감소하는 사용자 기반에서 학습될 경우 표현 격차가 가장 심각하며, 특히 공정성 정의가 일치하지 않을 경우 더욱 악화됨을 확인한다.