[논문 리뷰] Fair Decision Making using Privacy-Protected Data

Satya Kuppam, Ryan McKenna외 4명|arXiv (Cornell University)|2019. 05. 29.

Privacy-Preserving Technologies in Data참고 문헌 25인용 수 8

한 줄 요약

이 논문은 실질적인 미국 인구 조사 데이터를 사용하여 미분적 보안이 자원 배분 결정의 공정성에 어떤 영향을 미치는지 조사한다. 낮은 ε 값에서의 엄격한 개인정보 보호 조치는 소수자 또는 대표되지 않은 집단에 비례적으로 더 큰 영향을 미칠 수 있음을 보여준다. 공정성 인지 기반의 메트릭과 복구 조치를 제안하며, 개인정보 보호 메커니즘에서 유래하는 노이즈가 특히 소규모 집단이나 기준치 기반 결정에서 결과의 불균형을 증가시킬 수 있음을 입증한다.

ABSTRACT

Data collected about individuals is regularly used to make decisions that impact those same individuals. We consider settings where sensitive personal data is used to decide who will receive resources or benefits. While it is well known that there is a tradeoff between protecting privacy and the accuracy of decisions, we initiate a first-of-its-kind study into the impact of formally private mechanisms (based on differential privacy) on fair and equitable decision-making. We empirically investigate novel tradeoffs on two real-world decisions made using U.S. Census data (allocation of federal funds and assignment of voting rights benefits) as well as a classic apportionment problem. Our results show that if decisions are made using an $ε$-differentially private version of the data, under strict privacy constraints (smaller $ε$), the noise added to achieve privacy may disproportionately impact some groups over others. We propose novel measures of fairness in the context of randomized differentially private algorithms and identify a range of causes of outcome disparities.

연구 동기 및 목표

• 민감한 공공 데이터를 사용하여 실세계 자원 배분 결정에서의 미분적 보안의 영향을 연구하는 것.
• 개인정보 보호 노이즈가 소수자 또는 소규모 인구 집단에 비례적으로 더 큰 영향을 미치는 방식을 규명하는 것.
• 랜덤화된, 미분적 보안 알고리즘에 특화된 공정성 메트릭을 개발하는 것.
• 공정성 보장을 유지하면서 결과 불균형을 줄이는 복구 조치를 제안하고 평가하는 것.
• 일반적으로 사용되는 개인정보 보호 메커니즘인 라플라스 메커니즘이 실제 적용에서 불공정한 결과를 초래할 수 있는지 평가하는 것.

제안 방법

• 1971년 인도 주 인구 데이터를 사용하여 세 가지 실세계 결정을 실증적으로 평가: 연방 자금 배분, 투표 권리 혜택, 의회 의석 배분.
• 다양한 ε 값으로 라플라스 메커니즘을 적용하여 인구 총합을 왜곡하여, 미분적 보장된 데이터 배포를 시뮬레이션.
• 균형 잔차 평균 기대값과 최대 곱셈 불균형도와 같은 공정성 메트릭을 사용하여 결과의 공정성 평가.
• 다양한 개인정보 보장 데이터의 결과를 기준값(진짜 값)과 비민감한 랜덤화된 배분 방법의 결과와 비교.
• 개인정보 보장 데이터의 노이즈를 고려한 수정된 할당 알고리즘을 제안하고 테스트하여, 개인정보 보장 유지와 함께 공정성 향상.
• 불균형의 원인 분석: 알고리즘 편향, 기준치 조건, 인구 규모 영향 등.

실험 결과

연구 질문

• RQ1 개인정보 유출 예산 ε의 선택이, 미분적 보장된 데이터 기반 자원 배분 결정의 공정성에 어떤 영향을 미치는가?
• RQ2 다양한 개인정보 보장 조건에서, 큰 집단과 작은 집단 간의 배분 결과 불균형이 어느 정도 심화되는가?
• RQ3 랜덤화된, 개인정보 보장 알고리즘 전용 공정성 메트릭은 전통적인 오차 측정 방식으로는 드러나지 않는 불균형을 탐지할 수 있는가?
• RQ4 개인정보 보호 결정 시스템에서 결과 불균형의 근본 원인은 무엇인가? (예: 기준치 효과 또는 편향된 노이즈)
• RQ5 수정된 할당 절차는 미분적 보장 보장을 유지하면서 불공정성을 완화할 수 있는가?

주요 결과

• 일부 ε 값(예: ε ≈ 1.4×10⁻⁶에서 3.8×10⁻⁴)에서는 라플라스 메커니즘에서 유래한 노이즈가 할당의 기대 편차를 줄여, 평균적으로 공정성을 향상시킬 수 있다.
• ε가 감소할수록 주 간 최대 곱셈 불균형도가 증가하여, 엄격한 개인정보 보호 조치가 실제 결과에서 더 큰 불균형을 초래함을 시사한다.
• ε = 1.4×10⁻⁵일 때, 많은 주에서 기대 편차가 진짜 데이터보다 유의미하게 낮아지지만, 이는 달성 가능한 기대 결과가 아니다.
• 소규모 집단은 노이즈의 영향을 더 심하게 받아 상대 오차가 커지고, 대표되지 않을 위험이 증가한다.
• 소수어권 투표 권리 등 결정에서 기준치 조건이 존재할 경우, 개인정보 보장 데이터가 임계 기준치를 넘어서면 불균형이 악화될 수 있다.
• 수정된 할당 절차와 같은 복구 조치는 불공정성을 줄일 수 있지만, 규제 제약과 일부 알고리즘에서 오차 한계 지원이 부족하여 복잡성이 증가한다.