[논문 리뷰] Preserving Privacy and Security in Federated Learning

Truc Nguyen, My T. Thai|arXiv (Cornell University)|2022. 02. 07.

Privacy-Preserving Technologies in Data참고 문헌 37인용 수 5

한 줄 요약

이 논문은 히든 암호화 기반의 안전한 집계를 통해 사용자 모델 업데이트의 기밀성을 보장하면서도, 제로지식 증명(ZKPs)을 통해 백도어 위조 공격을 탐지할 수 있는 통합 프레임워크를 제안한다. 공격 탐지 기능을 서버가 아닌 사용자에게 위임함으로써, 사용자들은 모델 세부 정보를 드러내지 않은 채 방어 메커니즘의 정상 실행을 증명할 수 있으며, 서버는 기밀성을 해치지 않은 채 무결성을 검증할 수 있다. 이는 통합된 위협 모델 하에 보안과 기밀성을 동시에 달성한다.

ABSTRACT

Federated learning is known to be vulnerable to both security and privacy issues. Existing research has focused either on preventing poisoning attacks from users or on concealing the local model updates from the server, but not both. However, integrating these two lines of research remains a crucial challenge since they often conflict with one another with respect to the threat model. In this work, we develop a principle framework that offers both privacy guarantees for users and detection against poisoning attacks from them. With a new threat model that includes both an honest-but-curious server and malicious users, we first propose a secure aggregation protocol using homomorphic encryption for the server to combine local model updates in a private manner. Then, a zero-knowledge proof protocol is leveraged to shift the task of detecting attacks in the local models from the server to the users. The key observation here is that the server no longer needs access to the local models for attack detection. Therefore, our framework enables the central server to identify poisoned model updates without violating the privacy guarantees of secure aggregation.

연구 동기 및 목표

• 기밀성 보장의 안전한 집계와 위조 공격 탐지 기능이 상호 배타적인 상황에서 발생하는 피어드 페더레이티드 러닝의 핵심적 격차를 해결하기 위해.
• 진실하지만 호기심이 많은 서버와 악성 사용자를 포함하는 위협 모델을 설계하여 실제 세계의 공격 조건을 반영하기 위해.
• 개별 모델 파라미터에 접근하지 않고도 서버가 위조된 모델 업데이트를 탐지할 수 있도록 하여 기밀성 보장을 유지하기 위해.
• 사용자가 로컬 방어 메커니즘이 정상적으로 실행되었음을 암호학적으로 증명할 수 있는 ZKP 기반 프로토콜을 개발하기 위해.
• 안전한 집계와 ZKP 프로토콜을 하나의 실용적인 프레임워크로 통합하여 모델 성능과 라이브니스를 유지하기 위해.

제안 방법

• 개별 기여를 드러내지 않고 로컬 모델 업데이트의 합을 계산할 수 있도록 히든 암호화 기반의 안전한 집계 프로토콜을 제안한다.
• 사용자가 자신의 모델 업데이트에서 로컬 방어 메커니즘이 정상적으로 실행되었음을 증명할 수 있는 제로지식 증명(ZKP) 프로토콜을 도입한다.
• ZKP가 타당성(정상 실행 없이 위조하는 것이 어렵고)과 제로지식(모델에 대한 정보를 유출하지 않음)을 확보하도록 설계한다.
• ZKP 구조에서 반복을 활용하여 타당성 오류를 (2/3)^λ 수준으로 감소시켜 검증의 높은 신뢰도를 확보한다.
• Liu 등 [25]의 방법에 기반한 부수적인 뉴런 제거 기반 방어 메커니즘을 ZKP 프로토콜의 구체적 적용 사례로 활용한다.
• 안전한 집계와 ZKP 프로토콜을 통합하여 서버가 개별 모델 데이터를 알지 못한 채 위조된 업데이트를 탐지할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 기밀성을 훼손하지 않고도 안전한 집계와 위조 공격 탐지 기능을 피어드 페더레이티드 러닝에서 동시에 달성할 수 있는가?
• RQ2 서버가 원시 모델 파라미터에 접근하지 않고도 악성 모델 업데이트를 탐지할 수 있는가?
• RQ3 사용자가 자신의 로컬 모델에 대한 정보를 泄露하지 않은 채 방어 메커니즘이 정상적으로 실행되었음을 암호학적으로 증명할 수 있는가?
• RQ4 실제 피어드 페더레이티드 러닝 환경에서 제안된 프로토콜이 통신 및 계산 오버헤드에 미치는 영향은 어떠한가?
• RQ5 일부 사용자가 악성으로 행동하더라도 프레임워크가 라이브니스와 기밀성을 유지할 수 있는가?

주요 결과

• 제안된 프레임워크는 안전한 집계와 ZKP 기반의 공격 탐지 기능을 성공적으로 통합하여, 서버가 개별 모델 파라미터를 알지 못한 채 위조된 모델 업데이트를 식별할 수 있다.
• ZKP 프로토콜은 정상적으로 방어 메커니즘을 실행한 사용자만 유효한 증거를 생성할 수 있도록 보장하여 위조나 위장 행위를 방지한다.
• 서버가 개별 모델 업데이트에 대한 정보를 유추할 수 없어, 심지어 ZKP를 사용하더라도 강력한 기밀성 보장을 유지한다.
• 안전한 집계 프로토콜은 악성 사용자에 대해서도 강건하여, 비응답자나 악성 참가자 존재하더라도 기밀성과 라이브니스를 유지한다.
• 성능 평가 결과, 통신 및 계산 비용이 측정 가능하며 실용적이므로 실제 환경에의 구현이 가능함을 입증한다.
• 히든 암호화와 ZKP의 통합은 기밀성과 보안을 동시에 지원하는 통합된 위협 모델을 가능하게 하여 피어드 페더레이티드 러닝의 안정성을 제고한다.