[논문 리뷰] Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach

Cuong Dinh Tran, Ferdinando Fioretto외 1명|arXiv (Cornell University)|2020. 09. 26.

Privacy-Preserving Technologies in Data인용 수 9

한 줄 요약

이 논문은 민감한 속성에 대한 차별 없는 모델 성능을 확보하면서도, 민감 속성에 대해 미세한 차별을 보장하는 비밀 보장 기반의 사전적이고 공정한 라그랑주 이중형(Private and Fair Lagrangian Dual, PF-LD) 프레임워크를 제안한다. 이는 여러 그룹 공정성 기준(예: 민족적 균형, 동일한 오차, 정확도 균형)을 충족시키며, 민감 속성에 대해 미세한 차별을 보장한다. 라그랑주 이중형을 적용하여 공정성 제약 조건을 통합하고, 보정된 클리핑 한계를 통해 원본 및 이중 업데이트에 노이즈를 주입함으로써 정확도, 비밀 보장, 공정성 간의 균형 잡힌 트레이드오프를 달성한다. 이는 벤치마크 데이터셋에서 기준 방법들을 능가한다.

ABSTRACT

A critical concern in data-driven decision making is to build models whose outcomes do not discriminate against some demographic groups, including gender, ethnicity, or age. To ensure non-discrimination in learning tasks, knowledge of the sensitive attributes is essential, while, in practice, these attributes may not be available due to legal and ethical requirements. To address this challenge, this paper studies a model that protects the privacy of the individuals sensitive information while also allowing it to learn non-discriminatory predictors. The method relies on the notion of differential privacy and the use of Lagrangian duality to design neural networks that can accommodate fairness constraints while guaranteeing the privacy of sensitive attributes. The paper analyses the tension between accuracy, privacy, and fairness and the experimental evaluation illustrates the benefits of the proposed model on several prediction tasks.

연구 동기 및 목표

• 인종이나 성별과 같은 민감한 속성의 비밀 보장을 보장하면서도, 차별 없는 모델 성능을 확보하는 데에 있어 갈등을 해결하는 것.
• 추론 단계에서 민감한 속성에 접근하지 않더라도 여러 그룹 공정성 정의를 강제하는 딥 뉴럴 네트워크 프레임워크를 개발하는 것.
• 모델 정확도와 공정성을 유지하면서, 보정된 노이즈 주입을 통해 학습 과정에 차별성 비밀 보장을 통합하는 것.
• 민감한 속성이 부분적으로 누락되거나 선택적으로 제공되는 경우를 고려하여, 실세계 적용에 실용적인 프레임워크를 제공하는 것.
• 제약 최적화와 라그랑주 이중형을 기반으로 정확도, 비밀 보장, 공정성 간의 트레이드오프를 이론적·실증적으로 분석하는 것.

제안 방법

• 공정성 제약이 있는 학습 문제를 제약 최적화 문제로 공식화하고, 라그랑주 이중형을 적용하여 공정성 제약 조건을 보완된 라그랑주 항과 함께 이중화한다.
• 원본 및 이중 업데이트에 클리핑을 적용한다: 정확도 손실을 최소화하기 위해 민감한 속성과 관련된 기울기만 원본 단계에서 클리핑한다.
• 제약 조건 기울기의 민감도와 노름에 비례하여 보정된 노이즈를 원본 및 이중 업데이트에 주입함으로써 $(\epsilon, \delta)$-차별성 비밀 보장 보장을 확보한다.
• 기대 제약 위반과 기울기 오차의 상한을 최소화함으로써 클리핑 한계 $C_p$와 $C_d$를 보정하여 편향과 분산의 균형을 이룬다.
• 민감한 속성이 누락된 경우를 다루기 위해 이를 누락 데이터로 모델링하여, 일부 개인의 속성이 공개된 경우에도 학습이 가능하도록 프레임워크를 확장한다.
• 모멘트 애카운터 스타일 분석을 통해 학습 단계 전반에 걸친 비밀 손실을 추적함으로써 공식적인 차별성 비밀 보장 보장을 확보한다.

실험 결과

연구 질문

• RQ1 학습 단계에서 민감한 속성을 접근하지 않더라도 딥 뉴럴 모델이 강력한 공정성 성능을 달성할 수 있는가?
• RQ2 민감한 속성에 대해 효과적으로 차별성 비밀 보장을 적용하면서도 모델 정확도와 공정성을 유지할 수 있는가?
• RQ3 제약 최적화 하에서 정확도, 공정성, 비밀 보장 간의 최적 트레이드오프는 무엇인가?
• RQ4 원본 및 이중 기울기의 클리핑 한계가 비밀 보장 기반의 공정한 학습에서 편향-분산 트레이드오프에 어떻게 영향을 주는가?
• RQ5 민감한 속성이 부분적으로 누락되거나 공개되지 않을 경우 모델의 성능은 어떻게 되는가?

주요 결과

• PF-LD 프레임워크는 정확도, 비밀 보장, 공정성 간의 유리한 트레이드오프를 달성하여, Bank 및 Income 데이터셋에서 기준 방법들을 능가한다.
• 중간 수준의 클리핑 한계 $C_p$와 $C_d$가 최적의 균형을 이룬다: 너무 작은 한계는 높은 정보 손실과 공정성 위반을 유도하고, 너무 큰 한계는 분산을 증가시켜 성능을 떨어뜨린다.
• Bank 데이터셋에서 공정성 위반은 중간 수준의 $C_p$와 $C_d$ 설정에서 최소화되었으며, 모델 정확도는 높고 제약 위반은 낮았다.
• 민감한 속성이 부분적으로 누락된 경우(예: 60% 누락), 모델은 누락 비율이 감소할수록 더 낮은 공정성 위반과 더 나은 정확도-공정성 트레이드오프를 달성했다.
• 높은 비밀 보장 예산($\epsilon = 1.0$) 조건에서도 프레임워크는 공정성 위반을 효과적으로 감소시켜 다양한 비밀 보장 환경에서의 강건성을 입증했다.
• 실증 결과에 따르면 기울기가 클리핑 임계값을 초과할 경우에도, 특히 최적의 $C_p$와 $C_d$ 설정에서 제약 위반 빈도가 낮게 유지되었다.