[논문 리뷰] Necessary Conditions in Multi-Server Differential Privacy

Albert Cheu, Yan Chao|arXiv (Cornell University)|2022. 08. 17.

Privacy-Preserving Technologies in Data인용 수 2

한 줄 요약

이 논문은 비상호작용적이고 다중 서버 기반의 차별적 프라이버시 프로토콜이 무한대의 공격자에 대해 기본적인 제약을 갖는다는 것을 입증한다. 이러한 프로토콜은 특징 선택, 파리티 학습, 가설 검증과 같은 핵심 과제에서 중심 모델의 대응 프로토콜보다 지수적으로 더 많은 샘플이 필요하다는 것을 보이며, 이는 중심 모델의 효율성을 달성하기 위해 상호작용 또는 계산 기반의 차별적 프라이버시가 필수적임을 시사한다.

ABSTRACT

We consider protocols where users communicate with multiple servers to perform a computation on the users' data. An adversary exerts semi-honest control over many of the parties but its view is differentially private with respect to honest users. Prior work described protocols that required multiple rounds of interaction or offered privacy against a computationally bounded adversary. Our work presents limitations of non-interactive protocols that offer privacy against unbounded adversaries. We show these protocols demand exponentially more samples for some learning and estimation tasks than centrally private counterparts. This means performing as well as the central model requires interactivity or computational differential privacy, or both.

연구 동기 및 목표

• 비상호작용적이고 다중 서버 기반의 차별적 프라이버시 프로토콜이 무한대의 공격자에 대해 겪는 제약를 조사하기 위해.
• 비상호작용적 프로토콜이 학습 및 추정 과제에서 중심 모델과 유사한 샘플 복잡도를 달성할 수 있는지 확인하기 위해.
• 샘플 복잡도 격차를 해소하기 위해 상호작용 또는 계산 기반 차별적 프라이버시가 필수적인지 규명하기 위해.
• 분산 차별적 프라이버시에서 프라이버시, 상호작용, 샘플 효율성 간의 상호 교환 관계를 정형화하기 위해.
• 다중 서버 모델에서 특징 선택, 파리티 학습, 가설 검증, 균일성 검증에 대한 샘플 복잡도 하한을 설정하기 위해.

제안 방법

• 다중 서버 프로토콜을 순차적 상태 업데이트 동안 차별적 프라이버시를 유지하는 내부적으로 프라이버시 보장된 온라인 알고리즘으로 변환한다.
• 내부 프라이버시에서 유도된 하한을 적용하여 학습 과제의 샘플 복잡도 한계를 도출한다.
• 내부 프라이버시와 차별적 프라이버시 간의 연결을 활용해 내부 프라이버시 모델에서 알려진 하한을 이전한다.
• 특징 선택 및 가설 검증에서 중심 모델 기반 샘플 복잡도를 기준으로 삼기 위해 지수 기반 메커니즘을 사용한다.
• 손상 허용 기준(≤⌈k/2⌉ 서버)이 프라이버시 보장 및 샘플 효율성에 미치는 영향을 분석한다.
• 확률적 추론과 프라이버시 제약 하에서 실패 확률 제어를 통해 渐近적 하한을 유도한다.

실험 결과

연구 질문

• RQ1 비상호작용적이고 다중 서버 기반의 차별적 프라이버시 프로토콜은 특징 선택 과제에서 중심 모델과 유사한 샘플 복잡도를 달성할 수 있는가?
• RQ2 무한대의 공격자가 존재하는 비상호작용적 다중 서버 모델에서 파리티 학습에 필요한 최소 샘플 복잡도는 얼마인가?
• RQ3 다중 서버 모델에서의 가설 검증 샘플 복잡도는 중심 모델과 비교해 어떻게 되는가?
• RQ4 비상호작용적 다중 서버 모델에서 균일성 검증은 효율적인 샘플 복잡도로 수행 가능한가?
• RQ5 중심 모델의 효율성을 따라잡기 위해 상호작용 또는 계산 기반 차별적 프라이버시가 필수적인가?

주요 결과

• 특징 선택의 경우, 비상호작용적 다중 서버 프로토콜은 Ω(√d/αε)개의 샘플이 필요하지만, 중심 모델은 지수 기반 메커니즘을 통해 O(log d/ε)로 달성한다.
• 비상호작용적 다중 서버 모델에서의 파리티 학습은 Ω(√(d choose t)/αε)개의 샘플이 필요하며, 이는 중심 모델의 O(d/αε)에 비해 지수적으로 더 크다.
• 간단한 가설 검증은 다중 서버 모델에서 Ω(√d/αε)개의 샘플이 필요하며, 중심 모델의 로그 수준의 복잡도에 비해 다시 한번 지수적으로 열등하다.
• 다중 서버 모델에서의 균일성 검증은 샘플 복잡도 하한이 Ω(d^{2/3}/α^{4/3}ε^{2/3} + √d/α² + 1/αε)이며, 중심 모델의 √d 스케일링에 비해 다항식적으로 더 크다.
• 결과적으로 비상호작용적 다중 서버 프로토콜은 상호작용 또는 계산 기반 차별적 프라이버시 없이 중심 모델의 효율성을 따라잡을 수 없다.
• 하한은 δ = 0 또는 δlog(d/δ) ≪ α²ε²/d 조건에서도 유지되며, 이는 작은 프라이버시 파rameter에 대해 강건함을 보장한다.