[논문 리뷰] Mitigating Discrimination in Insurance with Wasserstein Barycenters

Arthur Charpentier, François Hu외 1명|arXiv (Cornell University)|2023. 06. 22.

Insurance, Mortality, Demography, Risk Management인용 수 6

한 줄 요약

이 논문은 민감한 속성(예: 연령, 인종, 성별)과 관련된 역사적 데이터 편향으로 인한 보험 가격 설정의 불공정성을 줄이기 위해 워셔스타인 바리센터를 사용하는 것을 제안한다. 이 방법은 평균 스케일링에 의존하는 것이 아니라, 분포의 차이를 유지하면서도 각 인구집단 간의 위험 예측을 조정함으로써 공정성을 확보한다. 실제 자동차 보험 데이터를 바탕으로 한 실험에서 이 방법은 예측 정확도를 유지하면서도 보험료의 불공정한 격차를 크게 줄였다.

ABSTRACT

The insurance industry is heavily reliant on predictions of risks based on characteristics of potential customers. Although the use of said models is common, researchers have long pointed out that such practices perpetuate discrimination based on sensitive features such as gender or race. Given that such discrimination can often be attributed to historical data biases, an elimination or at least mitigation is desirable. With the shift from more traditional models to machine-learning based predictions, calls for greater mitigation have grown anew, as simply excluding sensitive variables in the pricing process can be shown to be ineffective. In this article, we first investigate why predictions are a necessity within the industry and why correcting biases is not as straightforward as simply identifying a sensitive variable. We then propose to ease the biases through the use of Wasserstein barycenters instead of simple scaling. To demonstrate the effects and effectiveness of the approach we employ it on real data and discuss its implications.

연구 동기 및 목표

• 연령, 인종, 성별과 같은 민감한 속성과 관련된 역사적 데이터 편향으로 인해 지속적으로 발생하는 불공정한 보험 가격 설정 문제를 해결하기 위해.
• 기계학습 기반의 위험 모델에서 단순한 변수 제거나 평균 기반 스케일링의 한계를 극복하기 위해.
• 위험 점수의 전체 분포를 고려하여 각 그룹 간에 공정한 예측 조정 방법을 개발하기 위해.
• 최적 운반 이론을 활용해 이론적으로 타당하고 해석 가능하며 실증적으로 효과적인 보험학 분야의 공정성 접근법을 제공하기 위해.
• 워셔스타인 바리센터가 실제 보험 데이터 세트에서 모델 성능을 유지하면서도 민감도 간 차이를 줄일 수 있음을 입증하기 위해.

제안 방법

• 이 방법은 최적 운반 이론을 활용해 민감 그룹 간의 위험 예측 분포의 워셔스타인 바리센터를 계산함으로써, 공정한 예측 조정을 가능하게 한다.
• 각 그룹의 예측 분포로부터 최소한의 왜곡을 유도하는 기준 분포(바리센터)를 구성함으로써, 분포 간의 워셔스타인 거리가 최소화되도록 한다.
• 예측에 대한 단순 스케일링(예: 예측값에 요소를 곱하는 것)이 아니라, 각 그룹의 위험 분포의 형태와 산포를 존중하는 분포 인식 전환을 도입한다.
• 바리센터는 볼록 최적화 프레임워크를 사용하여 계산되며, 공정한 예측의 효율적이고 안정적인 추정이 가능하다.
• 이 방법은 연령을 민감한 속성으로 삼아 실제 자동차 보험 데이터에 적용하였으며, GLM, GBM, RF 모델 간 성능을 비교하였다.
• 공정성은 민감도 간 평등성 기준으로 평가되었으며, 이는 예측 정확도를 희생시키지 않은 채 불균형을 줄이는 데 성공하였다.

Figure 1: Fictitious maps, (freely) inspired by a Home Owners’ Loan Corporation map from 1937, where red is used to identify neighborhoods in which investment and lending were discouraged, on the left (see Crossney ( 2016 ) and Rhynhart ( 2020 ) ). In the middle, some risk related variable (an ficti

실험 결과

연구 질문

• RQ1 기존의 스케일링 방법과 비교해 워셔스타인 바리센터가 보험 가격 설정에서 민감도 간 평등성 위반을 효과적으로 줄일 수 있는가?
• RQ2 최적 운반을 통한 분포 조정 방식이 평균 기반 스케일링과 비교해 공정성과 예측 성능를 유지하는 데 얼마나 효과적인가?
• RQ3 민감한 속성이 모델링에 직접 사용되지 않을 경우 워셔스타인 바리센터가 간접적 차별을 얼마나 효과적으로 완화할 수 있는가?
• RQ4 GLM, GBM, RF 등의 다양한 기계학습 모델에서 이 방법의 해석 가능성과 내구성은 어느 정도인가?
• RQ5 바리센터 기반 조정이 젊은 운전자와 노령 운전자 간의 위험 예측 격차에 어떤 영향을 미치는가?

주요 결과

• 65세 이상의 노령 운전자에 대해서는, 바리센터 방법이 기준 모델의 예측 사고 확률 격차 5.27%를 4.71%로 줄여, 5% 이내의 초기 위험 수준에서 공정성 향상을 크게 개선하였다.
• 초기 위험이 20%일 경우 기준 모델은 노령 운전자에 대해 21.26%의 예측을 내놓았지만, 바리센터 방법은 이를 18.85%로 낮춰 격차를 좁혔다.
• 30세 미만의 젊은 운전자에 대해서는, 초기 위험이 20%일 때 기준 모델이 14.84%의 위험을 예측했으나, 바리센터 방법은 이를 12.54%로 낮춰 과잉 처벌을 효과적으로 완화함을 보였다.
• 특히 위험도가 높은 세그먼트에서 격차가 가장 두드러졌던 상황에서, 바리센터 접근법은 단순 스케일링보다 민감도 간 평등성 위반을 더 효과적으로 줄였다.
• GLM, GBM, RF 등 다양한 모델에서 예측 정확도를 유지하면서도, 실제 보험 환경에서의 적용 가능성을 입증하는 데 성공했다.
• 일치된 예측의 시각화 결과는 바리센터 방법이 평균 기반 스케일링보다 위험 분포의 꼬리 부분에서도 더 잘 그룹 분포를 일치시킴을 확인하였다.

Figure 2: Distributions of $m(\boldsymbol{x},s={\color[rgb]{0,0.62890625,0.54296875}\definecolor[named]{pgfstrokecolor}{rgb}{0,0.62890625,0.54296875}\text{{A}}})$ and $m(\boldsymbol{x},s={\color[rgb]{0.94921875,0.6796875,0}\definecolor[named]{pgfstrokecolor}{rgb}{0.94921875,0.6796875,0}\text{{B}}})$