[논문 리뷰] Decision Making with Differential Privacy under a Fairness Lens

Ferdinando Fioretto, Cuong Dinh Tran외 1명|arXiv (Cornell University)|2021. 05. 16.

Privacy-Preserving Technologies in Data참고 문헌 17인용 수 5

한 줄 요약

이 논문은 인구 조사 데이터 공개에서의 미분적 비밀유지(DP)가 하류 자원 배분 결정에서 불공평을 초래할 수 있으며, 특히 소수자그룹에 불리하게 작용할 수 있음을 조사한다. 공식적인 형평성 정의를 제안하고, 결정 규칙에서의 편향의 구조적 원인을 규명하며, 수정된 후처리 및 예산 조정과 같은 완화 전략을 도입하여 비밀유지 유지와 함께 불공평성을 감소시킨다.

ABSTRACT

Agencies, such as the U.S. Census Bureau, release data sets and statistics about groups of individuals that are used as input to a number of critical decision processes. To conform to privacy and confidentiality requirements, these agencies are often required to release privacy-preserving versions of the data. This paper studies the release of differentially private data sets and analyzes their impact on some critical resource allocation tasks under a fairness perspective. {The paper shows that, when the decisions take as input differentially private data}, the noise added to achieve privacy disproportionately impacts some groups over others. The paper analyzes the reasons for these disproportionate impacts and proposes guidelines to mitigate these effects. The proposed approaches are evaluated on critical decision problems that use differentially private census data.

연구 동기 및 목표

• 미분적 비밀유지가 인구 조사 데이터 공개에 사용될 경우 어떤 그룹이 중요한 결정보다 불리하게 영향을 받을 수 있는지 이해하는 것.
• 미분적 비밀유지 제약 조건 하에서의 결정보다 형평성 및 유한 형평성의 공식 정의.
• 예측 조건 조합 및 후처리와 같은 구조적 요인들이 자원 배분 규칙에서 불공평성을 어떻게 악화시키는지 규명하는 것.
• 강력한 비밀유지 보장을 유지하면서도 불공평성을 줄이기 위한 실용적 완화 전략을 제안하는 것.
• 미분적 비밀유지 노이즈로 인해 음수의 배분이 발생할 경우 이를 방지하기 위해 필요한 예산 증가 비용을 측정하는 것.

제안 방법

• 미분적 비밀유지 하에서의 형평성 및 유한 형평성에 대한 공식 프레임워크를 제안하여, 형평성 위반이 유한하게 유지되는 조건을 정의한다.
• 자금 배분, 언어 보조, 코로나19 백신 배포 등의 사례 연구를 통해 결정보다 영향을 평가한다.
• 음수의 배분을 방지하기 위해 노이즈가 첨가된 출력을 조정하는 수정된 후처리 기법을 도입하여, 정규화로 인한 편향을 줄인다.
• 비용-비밀유지 지표를 사용하여, 미분적 비밀유지로 인해 음수의 배분이 발생할 경우 이를 방지하기 위해 필요한 예산 증가를 정량화한다. 이는 기준 예산으로 스케일된 절대값의 음수 배분 합으로 정의된다.
• 10^4개의 샘플을 사용한 샘플링 기반 오차 추정을 통해 다양한 메커니즘에서 평균 절대 오차 및 형평성 영향을 평가한다.
• 논리적 조합 분석을 적용하여, 결정 규칙 내 부울 조건이 DP 하에서 조합될 경우 형평성에 어떤 영향을 미치는지 이해한다.

실험 결과

연구 질문

• RQ1 다양한 인구 조사 데이터에 기반한 결정보다 문제에서, 어떤 조건에서 형평성 위반이 유한하게 유지되는가?
• RQ2 결정 규칙 내 논리적 조건 조합이 미분적 비밀유지 데이터에 적용될 경우 형평성에 어떤 영향을 미치는가?
• RQ3 결정 규칙의 어떤 구조적 구성 요소—예를 들어 정규화 또는 후처리—가 DP 보호 데이터에서 불공평성을 가장 크게 증가시키는가?
• RQ4 수정된 후처리 기법을 통해 비밀유지 보장을 훼손하지 않으면서 불공평성을 얼마나 줄일 수 있는가?
• RQ5 미분적 비밀유지로 인해 발생하는 음수의 배분을 제거하기 위해 필요한 재정적 비용(예산 증가)은 어느 정도인가?

주요 결과

• 교육 자금 배분 및 백신 배포와 같은 고영향도 결정보다 문제들은, 미분적 비밀유지 인구 조사 데이터를 사용할 경우 본질적으로 불공평성을 보인다.
• DP 메커니즘에서의 후처리 정규화는 소수자그룹이나 규모가 작은 집단에 더 큰 손해를 끼치는 편향을 유발하여 불공평성을 증가시킨다.
• 정규화를 피하는 수정된 후처리 기법은 평균 절대 오차에 미치는 영향을 최소화하면서도 불공평성을 감소시키며, 이는 실증 평가에서 입증되었다.
• 비밀유지 비용으로 정의된 예산 증가 비용은 상당할 수 있다. 예를 들어, 일부 메커니즘에서 뉴욕 주 카운티의 경우 최대 12억 달러에 이른다.
• 결정 규칙 내 논리 조건의 조합은 형평성에 상당한 영향을 미치며, 복잡한 논리 조합은 DP 노이즈에서 유래한 편향을 악화시킨다.
• 이 논문은 DP에서의 형평성 문제들이 데이터 수집 때문만이 아니라, 결정 규칙과 메커니즘의 설계 자체에 내재되어 있음을 입증한다.