[논문 리뷰] Anonymizing Data for Privacy-Preserving Federated Learning

Olivia Choudhury, Aris Gkoulalas-Divanis외 5명|arXiv (Cornell University)|2020. 02. 21.

Privacy-Preserving Technologies in Data참고 문헌 39인용 수 9

한 줄 요약

이 논문은 연합 학습을 위한 새로운 문맥적 익명화 기법을 제안하며, 모델의 유용성을 극대화하면서도 개인정보 보호를 향상시킨다. 이는 의료 데이터셋에서 차별적 개인정보 보호 기법보다 F1 스코어에서 뛰어난 성능을 보였다. 소음 기반 방법과 달리, 이는 분산된 사이트들 간에 준식식별자를 일반화하는 k-익명성을 사용하여, GDPR/히파아 규정 준수를 보장하면서도 해석 가능한 개인정보 보호 보장을 제공한다.

ABSTRACT

Federated learning enables training a global machine learning model from data distributed across multiple sites, without having to move the data. This is particularly relevant in healthcare applications, where data is rife with personal, highly-sensitive information, and data analysis methods must provably comply with regulatory guidelines. Although federated learning prevents sharing raw data, it is still possible to launch privacy attacks on the model parameters that are exposed during the training process, or on the generated machine learning model. In this paper, we propose the first syntactic approach for offering privacy in the context of federated learning. Unlike the state-of-the-art differential privacy-based frameworks, our approach aims to maximize utility or model performance, while supporting a defensible level of privacy, as demanded by GDPR and HIPAA. We perform a comprehensive empirical evaluation on two important problems in the healthcare domain, using real-world electronic health data of 1 million patients. The results demonstrate the effectiveness of our approach in achieving high model performance, while offering the desired level of privacy. Through comparative studies, we also show that, for varying datasets, experimental setups, and privacy budgets, our approach offers higher model performance than differential privacy-based techniques in federated learning.

연구 동기 및 목표

• 차별적 개인정보 보호 기법이 과도한 노이즈로 인해 모델의 유용성이 떨어지는 문제를 해결하기 위해.
• GDPR 및 히파아 규정과 일치하는 증명 가능하고 해석 가능한 개인정보 보호 보장을 제공하는 개인정보 보호 연합 학습 프레임워크를 개발하기 위해.
• 원시 기록을 공유하지 않고도 분산된 의료 데이터에서 고성능 기계학습을 가능하게 하기 위해.
• 다양한 사이트들 간에 데이터 유용성을 유지하면서도 k-익명성을 확보하는 분산 익명화 파이프라인을 설계하기 위해.
• 같은 개인정보 보호 예산 조건에서 문맥적 익명화가 차별적 개인정보 보호 기법보다 모델 성능에서 뛰어나다는 것을 경험적으로 검증하기 위해.

제안 방법

• 이 방법은 분산된 사이트들 간에 준식식별자를 k-익명성으로 일반화하여 등가 클래스로 변환함으로써 개인 신원을 보호한다.
• 각 사이트에서 기능의 유용성과 개인정보 영향도를 기반으로 특징을 식별하고 익명화하는 분산 프로세스를 도입한다.
• 속성의 일반화 방식을 정의하는 문맥적 매핑 정보를 추출하여 중앙 서버와 공유함으로써 일관성을 유지한다.
• 추론 과정에서는 훈련 데이터에서 가장 유사한 익명화 매핑을 사용하여 테스트 인스턴스를 변환함으로써 호환성을 확보한다.
• 이 방법은 '익명화하고 채굴하라'의 파라다임을 따르며, 관계형 및 거래형 데이터 구성 요소를 대상으로 한다.
• k-값은 3에서 50까지 사용되며, 높은 k값일수록 더 강력한 개인정보 보호를 의미하며, 북미 및 캐나다에서의 기존 탈식별화 관행에 기반한다.

실험 결과

연구 질문

• RQ1 연합 학습에서 문맥적 익명화 기법이 차별적 개인정보 보호 기법보다 더 강력하고 해석 가능한 개인정보 보호 보장을 제공할 수 있는가?
• RQ2 실제 의료 데이터셋에서 문맥적 익명화 기법의 성능은 차별적 개인정보 보호 기법과 비교해 모델 유용성 측면에서 어떻게 다른가?
• RQ3 다양한 k-익명성 파라미터가 분산된 연합 학습 환경에서 모델 정확도와 개인정보 보호에 미치는 영향은 어떠한가?
• RQ4 데이터 유용성이나 개인정보 보호를 훼손하지 않고도 여러 사이트 간에 분산 익명화를 효과적으로 조율할 수 있는가?
• RQ5 제안된 방법이 고성능 모델 성능을 유지하면서도 GDPR 및 히파아 규정 준수를 얼마나 잘 지원하는가?

주요 결과

• 제안된 문맥적 익명화 기법은 모든 테스트 데이터셋과 분류 알고리즘에서 차별적 개인정보 보호 기법보다 더 높은 F1 스코어를 달성했다.
• k와 ε로 측정된 동일한 개인정보 보호 수준에서, 문맥적 기법은 특히 소수의 사이트(1000개 미만) 환경에서 ε-차별적 개인정보 보호 기법보다 항상 더 높은 모델 유용성을 보였다.
• k=20일 때, 이 기법은 높은 모델 성능을 유지하면서도 히파아 및 GDPR 준수에 적합한 탈식별화 수준을 확보했다.
• 이 방법은 원시 데이터를 공유하지 않으면서도 중앙집중식 학습과 유사한 성능을 보이는 연합 학습 모델을 가능하게 했다.
• 높은 k-값(최대 50)에서도 이 기법은 여전히 높은 유용성을 유지하여 확장성과 강건성을 입증했다.
• 결과적으로, 문맥적 익명화 기법은 특히 모델 유용성과 규제 준수를 고려해야 하는 의료 분야에서 차별적 개인정보 보호 기법의 실질적인 대안이 될 수 있음을 보여주었다.