[논문 리뷰] Samplable Anonymous Aggregation for Private Federated Data Analysis

Kunal Talwar, Shan Wang외 35명|arXiv (Cornell University)|2023. 07. 27.

Cryptography and Data Security인용 수 4

한 줄 요약

이 논문은 샘플가능한 익명 집계(Samplable Anonymous Aggregation, SA₂)라는 새로운 암호 primitive를 소개한다. 이는 중앙의 신뢰할 수 있는 관리자 모델에 근접한 프라이버시-유용성 트레이드오프를 제공하는 차별적 프라이버시 보장을 갖춘 분산 학습 및 분석을 가능하게 한다. 클라이언트 측 샘플링, 다수의 서버 간 비밀 공유, 익명 집계를 조합함으로써 SA₂는 단일 신뢰당사자가 필요하지 않음에도 강력한 프라이버시 보장을 달성하며, 실제 시스템에서 확장 가능하고 안전하며 효율적인 구현을 가능하게 한다.

ABSTRACT

We revisit the problem of designing scalable protocols for private statistics and private federated learning when each device holds its private data. Locally differentially private algorithms require little trust but are (provably) limited in their utility. Centrally differentially private algorithms can allow significantly better utility but require a trusted curator. This gap has led to significant interest in the design and implementation of simple cryptographic primitives, that can allow central-like utility guarantees without having to trust a central server. Our first contribution is to propose a new primitive that allows for efficient implementation of several commonly used algorithms, and allows for privacy accounting that is close to that in the central setting without requiring the strong trust assumptions it entails. {\em Shuffling} and {\em aggregation} primitives that have been proposed in earlier works enable this for some algorithms, but have significant limitations as primitives. We propose a {\em Samplable Anonymous Aggregation} primitive, which computes an aggregate over a random subset of the inputs and show that it leads to better privacy-utility trade-offs for various fundamental tasks. Secondly, we propose a system architecture that implements this primitive and perform a security analysis of the proposed system. Our design combines additive secret-sharing with anonymization and authentication infrastructures.

연구 동기 및 목표

• 단일 신뢰당사자에 의존도를 줄이고 실용적이고 확장 가능하며 프라이버시를 보장하는 분산 데이터 분석을 위한 primitive를 설계하는 것.
• 중앙의 신뢰할 수 있는 관리자 설정에서 달성 가능한 수준에 가까운 프라이버시 보장을 갖춘 분산 학습 및 분석에서의 차별적 프라이버시 보장을 제공하는 것.
• 최소한의 신뢰 가정으로도 기기 간 효율적이고 익명적이며 샘플가능한 집계를 지원하는 시스템 아키텍처를 구축하는 것.
• 기존의 접근 방식—예: 보안 다자간 계산, TEE, 허모르픽 암호화—의 한계를 보완하여 더 낮은 통신 오버헤드와 더 엄밀한 프라이버시 회계를 제공하는 것.
• 세부적인 아키텍처 및 위협 모델 분석을 통해 제안된 시스템의 실현 가능성과 보안성을 입증하는 것.

제안 방법

• 클라이언트의 무작위 서브셋에 대해 집계를 수행하면서도 클라이언트 익명성을 유지할 수 있도록 하는 새로운 이상적 기능으로 Samplable Anonymous Aggregation(SA₂)를 제안한다.
• 클라이언트가 데이터를 서버 간 덧셈 비밀 공유 방식으로 분산 배포하는 Prio 시스템 기반의 이중 서버 분할 신뢰 모델을 적용한다.
• 클라이언트 측 샘플링을 도입하여 시스템이 무작위 기기 서브셋에 대해 집계를 계산할 수 있도록 하여 프라이버시를 향상시키고 계산 부담을 줄인다.
• 디이름화 공격을 방지하고 입력 무결성을 확보하기 위해 익명화 및 기기 인증 메커니즘을 사용한다.
• 집계 출력에 차별적 프라이버시를 적용하여 중앙의 순간계량기 모델에서 달성 가능한 수준에 근접한 프라이버시 한계를 확보한다.
• 다중 라운드 상호작용을 피하는 아키텍처를 설계하여 클라이언트 이탈에 의한 복잡성과 통신 오버헤드를 최소화한다.

실험 결과

연구 질문

• RQ1 단일 서버에 대한 완전한 신뢰가 필요 없이도 중앙의 신뢰할 수 있는 관리자 모델에 근접한 차별적 프라이버시 보장을 갖춘 분산 집계 primitive를 설계할 수 있는가?
• RQ2 클라이언트 익명성과 데이터 샘플링을 안전하고 확장 가능하며 효율적인 분산 학습 및 분석 시스템에 통합할 수 있는가?
• RQ3 실제로 대규모로 구현하기 위해 필요한 시스템 아키텍처와 암호 컴포넌트는 무엇인가?
• RQ4 기존의 분산 학습 프로토콜보다 더 엄밀한 프라이버시 회계를 가능하게 할 수 있는가? 동시에 강력한 보안 보장을 유지할 수 있는가?
• RQ5 성능이나 프라이버시를 손상시키지 않으면서도 신뢰를 다수의 서버에 분산할 수 있는가?

주요 결과

• SA₂ primitive는 중앙의 신뢰할 수 있는 관리자 설정에서 달성 가능한 수준에 거의 근접한 프라이버시-유용성 트레이드오프를 갖춘 차별적 프라이버시 보장이 가능한 히스토GRAM 및 분산 학습을 가능하게 한다.
• 시스템은 중앙 설정에서의 순간계량기와 거의 동일한 프라이버시 한계를 확보하여, 이를 달성한 최초의 분산 primitive이다.
• 아키텍처는 1년 이내에 220억 건 이상의 기기 기여에 대한 집계를 지원하여 실제 세계에서의 확장성을 입증한다.
• 클라이언트 측 샘플링과 익명 집계의 사용은 더 엄밀한 프라이버시 회계를 가능하게 하고 모델 풀링 공격의 위험을 줄인다.
• 적어도 한 서버가 정직한 한계에서 단일 서버가 해킹되더라도 시스템은 강력한 보안을 유지하며, 분할 신뢰 모델 하에서 강력한 보장을 제공한다.
• 다중 라운드 클라이언트 상호작용을 피함으로써 클라이언트 이탈에 의한 복잡성을 줄이고 구현의 실현 가능성을 향상시킨다.