[논문 리뷰] Generative Models for Effective ML on Private, Decentralized Datasets

Sean Augenstein, H. Brendan McMahan외 6명|arXiv (Cornell University)|2019. 11. 15.

Privacy-Preserving Technologies in Data참고 문헌 46인용 수 43

한 줄 요약

이 논문은 프라이버시를 보장하는 연합 생성 모델이 비공개이고 분산된 데이터에 직접 접근할 수 없는 상황에서도 데이터 품질 및 라벨링 이슈를 디버깅할 수 있음을 입증하며, 텍스트에 대해서는 DP-FedAvg로 학습된 RNN을, 이미지에 대해서는 DP-FedAvg-GAN을 사용한다.

ABSTRACT

To improve real-world applications of machine learning, experienced modelers develop intuition about their datasets, their models, and how the two interact. Manual inspection of raw data - of representative samples, of outliers, of misclassifications - is an essential tool in a) identifying and fixing problems in the data, b) generating new modeling hypotheses, and c) assigning or refining human-provided labels. However, manual data inspection is problematic for privacy sensitive datasets, such as those representing the behavior of real-world individuals. Furthermore, manual data inspection is impossible in the increasingly important setting of federated learning, where raw examples are stored at the edge and the modeler may only access aggregated outputs such as metrics or model parameters. This paper demonstrates that generative models - trained using federated methods and with formal differential privacy guarantees - can be used effectively to debug many commonly occurring data issues even when the data cannot be directly inspected. We explore these methods in applications to text with differentially private federated RNNs and to images using a novel algorithm for differentially private federated GANs.

연구 동기 및 목표

• 데이터를 프라이버시나 분산화로 인해 점검할 수 없을 때 ML 워크플로의 도전 과제를 식별한다.
• 디버깅 작업을 위한 데이터 점검을 대체하기 위한 보안-preserving한 보조 생성 모델을 활용한 워크플로를 제안한다.
• 민감한 정보를 노출하지 않고도 데이터 이슈를 밝히는 DP-enabled 텍스트(RNN) 및 이미지(GAN) 생성 모델을 시연한다.
• FL 환경에서 실제 데이터 버그를 발견하고 수정하는 데 도움이 되는 이러한 모델의 가능성을 보인다.

제안 방법

• 세 가지 기술을 결합한다: 딥 생성 모델, 연합 학습(Federated Learning, FL), 그리고 차등 프라이버시(DP)로 탈중앙화 데이터에서 프라이버시 보장 생성 모델을 학습한다.
• 점검 작업을 데이터 선택 기준으로 표현하고 선택된 부분집합에서 생성 모델을 학습시켜 비점검 가능한 데이터를 모방한다(T1–T6).
• 서버 측 제너레이터와 DP-디스크리미네이터 업데이트를 사용하는 DP-FedAvg-GAN 알고리즘으로 GAN을 연합 DP 설정에 적응한다.
• 단말에서 단어-언어 모델을 학습하도록 DP-FedAvg를 사용해 RNN을 사용해 토큰화 및 OOV 관련 버그를 감지할 수 있도록 한다(T3).
• 민감한 정보를 누출하지 않으면서 대표적인 비공개 데이터를 합성하기 위해 기본 모델(단말)에 대한 보조 DP 모델 두 가지를 학습한다.

실험 결과

연구 질문

• RQ1 프라이버시를 보장하는 연합 생성 모델이 FL 설정에서 직접 데이터 점검을 대체해 디버깅을 가능하게 할 수 있는가?
• RQ2 DP-FedAvg로 학습된 RNN과 GAN이 private 데이터를 노출하지 않으면서 일반적인 데이터 품질 및 전처리 버그를 정확하게 밝힐 수 있는가?
• RQ3 현실적인 인구 규모에서 디버깅 유용성을 보존하면서 달성 가능한 프라이버시 예산(ε, δ)은 얼마인가?
• RQ4 보조 생성 모델이 DP 및 FL 제약 하에서 텍스트 전처리, 라벨링 및 편향 탐지 이슈를 진단하는 데 어떻게 도움을 주는가?

주요 결과

• DP 연합 생성 모델은 비공개 데이터를 점검하지 않고도 데이터 이슈를 디버깅할 수 있게 한다.
• DP-FedAvg-RNN은 토큰화 버그와 전처리 오류를 시사하는 OOV 증가를 밝혀낼 수 있다.
• DP-FedAvg-GAN은 서로 다른 정확도를 가진 하위 집단의 출력을 대조하여 이미지 전처리 버그(예: 픽셀 반전)를 밝힐 수 있다.
• 현실적인 인구 규모에서 한 자리 수의 프라이버시 예산(ε 범위 약 1.5–2.4)으로도 유용한 합성 데이터 품질을 유지하면서 달성 가능하다.
• 이 접근법은 텍스트와 이미지 디버깅 시나리오에서 실용적인 프라이버시 보장 및 유틸리티 트레이드오프를 보여준다.