[논문 리뷰] FFPDG: Fast, Fair and Private Data Generation

Weijie Xu, Jinjin Zhao외 2명|arXiv (Cornell University)|2023. 06. 30.

Privacy-Preserving Technologies in Data참고 문헌 22인용 수 5

한 줄 요약

FFPDG는 한 개의 효율적인 파이프라인에서 공정성 정규화와 차별적 프라이버시를 통합하여 빠르고 공정하며 비밀 유지되는 데이터 생성 방법을 제안한다. 노이즈 주입 이전에 FairMaxEnt를 적용하여 편향을 완화함으로써, FFPDG는 높은 모델 성능(AUCROC >0.75), 낮은 프라이버시 위험(LRD ≈ 0.1), 그리고 최소한의 공정성 편차(DSP < 0.11)를 달성하며, 속도 면에서 GAN 기반 방법보다 뛰어나다(1초 대비 수분).

ABSTRACT

Generative modeling has been used frequently in synthetic data generation. Fairness and privacy are two big concerns for synthetic data. Although Recent GAN [\cite{goodfellow2014generative}] based methods show good results in preserving privacy, the generated data may be more biased. At the same time, these methods require high computation resources. In this work, we design a fast, fair, flexible and private data generation method. We show the effectiveness of our method theoretically and empirically. We show that models trained on data generated by the proposed method can perform well (in inference stage) on real application scenarios.

연구 동기 및 목표

• 합성 데이터 생성에서 공정성과 프라이버시의 이중적 과제를 해결하기 위해.
• 실세계 데이터에서의 모델 성능을 유지하면서 멤버십 추론 공격에 저항할 수 있는 방법을 설계하기 위해.
• 기존 GAN 기반 프라이버시 데이터 생성 기법들보다 효율성을 향상시키기 위해.
• 프라이버시 주입 이전에 사전 처리를 통해 공정성을 개선하는 것이 더 나은 공정성 및 일반화 결과를 낳는지 입증하기 위해.
• 의료, 금융, 로봇 분야의 민감한 데이터셋에 대해 확장 가능하고 유연한 합성 데이터 생성을 가능하게 하기 위해.

제안 방법

• FFPDG는 통합된 파이프라인에서 공정성 정규화(FairMaxEnt)와 차별적 프라이버시(DP)를 통합한다.
• 노이즈 주입 이전에 FairMaxEnt를 적용하여 특성 공간을 투영하고 재가중하여 편향을 감소시킨다.
• 차별적 프라이버시를 확보하기 위해 데이터 정규화 및 가우시안 모델링 단계에서 노이즈를 추가한다.
• 차원 감소를 위해 무작위 정규직교 투영을 사용하며, Diaconis-Freedman-Meckes 효과를 활용해 근사적인 가우시안성을 확보한다.
• 비대칭적 모델 학습을 피하기 위해, 투영된 특성 분포를 기반으로 한 비대칭적이고 닫힌 형태의 생성 모델을 사용한다.
• 후처리 단계로는 연속형 특성의 캡핑 및 재변환을 통해 프라이버시와 공정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 프라이버시 주입 이전에 사전 처리를 통해 공정성을 개선하는 것이 후처리보다 더 나은 공정성 및 일반화 결과를 낳는가?
• RQ2 GAN 기반 방법이 아닌 방법이 훨씬 감소된 학습 시간으로 DP-GAN과 유사하거나 더 나은 프라이버시 및 공정성 지표를 달성할 수 있는가?
• RQ3 FairMaxEnt와 차별적 프라이버시의 조합이 실세계 데이터셋에서의 모델 성능에 어떤 영향을 미치는가?
• RQ4 고차원 및 범주형 특성이 생성된 데이터의 공정성과 프라이버시에 어떤 영향을 미치는가?
• RQ5 큰 복잡한 데이터셋에 대해 프라이버시나 공정성 지표의 심각한 열화 없이도 확장 가능한가?

주요 결과

• FFPDG는 Adult 데이터셋에서 AUCROC 0.75, COMPAS에서 0.62를 기록하여 실세계 데이터에서 강력한 예측 능력을 보였다.
• FFPDG는 Adult에서 DSP를 0.07, COMPAS에서 0.11로 감소시켜 다른 방법들을 능가했다.
• FFPDG는 1초 내로 데이터를 생성하여 DP-WGAN(36초) 및 PATE-GAN(29분)보다 뚜렷하게 빠르게 작동했다.
• 낮은 LRD(0.1)는 멤버십 추론 공격에 강력한 저항력을 보이며 강력한 프라이버시를 나타냈다.
• 프라이버시 주입 이전의 사전 처리 공정성이 후처리보다 더 나은 공정성 결과를 낳았다 (COMPAS에서 DSP: 0.07 vs. 0.22).
• 고차원 및 범주형 데이터에서는 개선된 후처리 없이도 예측 가능성과 프라이버시가 저하되는 한계를 보였다.