[논문 리뷰] Privacy Preservation in Federated Learning: Insights from the GDPR Perspective.

Nguyen B. Truong, Kai Sun외 3명|arXiv (Cornell University)|2020. 11. 10.

Privacy-Preserving Technologies in Data인용 수 11

한 줄 요약

이 논문은 개인정보 보호 기법을 종합적으로 검토하여 GDPR 준수를 보장하기 위해 연합 학습(FL)에 적용할 수 있는 방법을 제시한다. 특히, FL에서 모델 파라미터가 여전히 민감한 정보를 泄露할 수 있음을 강조하며, 고도의 암호화 및 차등적 개인정보 보호 기법을 FL 시스템에 통합하여 데이터 프라이버시 위험을 완화하고 GDPR 요구사항과의 규제 일치성을 유지하고자 한다.

ABSTRACT

Along with the blooming of AI and Machine Learning-based applications and services, data privacy and security have become a critical challenge. Conventionally, data is collected and aggregated in a data centre on which machine learning models are trained. This centralised approach has induced severe privacy risks to personal data leakage, misuse, and abuse. Furthermore, in the era of the Internet of Things and big data in which data is essentially distributed, transferring a vast amount of data to a data centre for processing seems to be a cumbersome solution. This is not only because of the difficulties in transferring and sharing data across data sources but also the challenges on complying with rigorous data protection regulations and complicated administrative procedures such as the EU General Data Protection Regulation (GDPR). In this respect, Federated learning (FL) emerges as a prospective solution that facilitates distributed collaborative learning without disclosing original training data whilst naturally complying with the GDPR. Recent research has demonstrated that retaining data and computation on-device in FL is not sufficient enough for privacy-guarantee. This is because ML model parameters exchanged between parties in an FL system still conceal sensitive information, which can be exploited in some privacy attacks. Therefore, FL systems shall be empowered by efficient privacy-preserving techniques to comply with the GDPR. This article is dedicated to surveying on the state-of-the-art privacy-preserving techniques which can be employed in FL in a systematic fashion, as well as how these techniques mitigate data security and privacy risks. Furthermore, we provide insights into the challenges along with prospective approaches following the GDPR regulatory guidelines that an FL system shall implement to comply with the GDPR.

연구 동기 및 목표

• 엄격한 규정(예: GDPR) 하에서 증가하는 AI 및 머신러닝 분야의 데이터 프라이버시 문제에 대응한다.
• 기기 내 데이터 유지를 고려하더라도 연합 학습에서 모델 파라미터 유출로 인한 프라이버시 위험을 특정한다.
• FL 시스템에 통합 가능한 최신 개인정보 보호 기법을 종합적으로 조사하고 평가한다.
• 기술적 및 규제적 일치를 통해 GDPR 준수 FL 시스템을 구현하기 위한 실질적인 통찰을 제공한다.
• GDPR 지침에 따라 프라이버시에 강건한 FL 프레임워크를 구축하기 위한 과제와 향후 연구 방향을 제시한다.

제안 방법

• 연합 학습에 적용 가능한 기존 개인정보 보호 기법(예: 차등적 개인정보 보호, 동형 암호화, 안전한 집계 등)을 체계적으로 분석한다.
• FL에서 다자 간 통신 중 모델 파라미터가 어떻게 보호되어야 하는지 평가하여 유추 공격을 방지한다.
• 암호 보호 기법 적용 시 모델 유효성, 통신 효율성, 프라이버시 보장 간의 트레이드오프를 평가한다.
• 데이터 최소화, 목적 제한, 무결성 및 기밀성 등의 GDPR 원칙과 기술적 솔루션을 매핑한다.
• GDPR 준수 요구사항을 충족하기 위해 개인정보 보호 기술을 FL 파이프라인에 통합하기 위한 프레임워크를 제안한다.
• 실제 FL 구현 환경에서 여러 개인정보 보호 기법(예: 차등적 개인정보 보호와 안전한 집계의 조합)을 결합하는 가용성과 한계를 검토한다.

실험 결과

연구 질문

• RQ1 기기 내 데이터 저장에도 불구하고 연합 학습에서 모델 파라미터가 여전히 어떤 프라이버시 위험을 초래하는가?
• RQ2 GDPR 제약 하에서 연합 학습에서 민감한 정보 유출을 최소화하는 데 가장 효과적인 개인정보 보호 기법은 무엇인가?
• RQ3 FL 시스템에 차등적 개인정보 보호 및 동형 암호화를 구현할 때 발생하는 기술적 및 규제적 트레이드오프는 무엇인가?
• RQ4 어떻게 설계된 FL 시스템이 데이터 최소화 및 목적 제한과 같은 핵심 GDPR 원칙과 일치할 수 있는가?
• RQ5 모델 성능을 유지하면서도 엔드 투 엔드 프라이버시 준수를 달성하는 데 있어 현재의 주요 과제는 무엇인가?

주요 결과

• 연합 학습에서 교환되는 모델 파라미터는 여전히 민감한 정보를 드러내므로, 원시 데이터 전송 없이도 프라이버시 공격에 취약하다.
• 차등적 개인정보 보호와 안전한 집계는 연합 학습 시스템에서 멤버십 유추 및 모델 역행 공격의 위험을 줄이는 데 효과적이다.
• 동형 암호화를 통해 암호화된 모델 업데이트에서 계산을 수행할 수 있어 기밀성을 향상시키지만, 상당한 계산 오버헤드를 유발한다.
• 여러 개인정보 보호 기법을 조합하면 보안 수준을 향상시킬 수 있지만, 일반적으로 통신 및 계산 비용이 증가한다.
• FL에서의 GDPR 준수는 기술적 보호 조치 외에도 명확한 데이터 처리 계약과 책임성 메커니즘이 필요하다.
• 현재의 솔루션은 특히 대규모 및 이질적인 FL 환경에서 프라이버시, 효율성, 모델 정확도 간의 균형을 맞추는 데 어려움을 겪고 있다.