[논문 리뷰] Privacy-preserving Prediction

Cynthia Dwork, Vitaly Feldman|arXiv (Cornell University)|2018. 03. 27.

Privacy-Preserving Technologies in Data참고 문헌 24인용 수 19

한 줄 요약

이 논문은 개별 예측에 대한 차별적 프라이버시를 보장함으로써 기존의 전체 모델에 대한 차별적 프라이버시와는 다른 새로운 접근 방식을 제안한다. 비공개 모델의 사전 평균화를 통해, 불리안 함수 클래스에 대해 거의 최적의 샘플 복잡도를 달성하며, 임계값과 볼록 회귀 문제에서 이전 방법보다 향상된 성능을 보인다. 이는 차별적 프라이버시 예측 알고리즘의 강력한 일반화 보장을 활용한 결과이다.

ABSTRACT

Ensuring differential privacy of models learned from sensitive user data is an important goal that has been studied extensively in recent years. It is now known that for some basic learning problems, especially those involving high-dimensional data, producing an accurate private model requires much more data than learning without privacy. At the same time, in many applications it is not necessary to expose the model itself. Instead users may be allowed to query the prediction model on their inputs only through an appropriate interface. Here we formulate the problem of ensuring privacy of individual predictions and investigate the overheads required to achieve it in several standard models of classification and regression. We first describe a simple baseline approach based on training several models on disjoint subsets of data and using standard private aggregation techniques to predict. We show that this approach has nearly optimal sample complexity for (realizable) PAC learning of any class of Boolean functions. At the same time, without strong assumptions on the data distribution, the aggregation step introduces a substantial overhead. We demonstrate that this overhead can be avoided for the well-studied class of thresholds on a line and for a number of standard settings of convex regression. The analysis of our algorithm for learning thresholds relies crucially on strong generalization guarantees that we establish for all differentially private prediction algorithms.

연구 동기 및 목표

• 기계 학습에서 공격자가 예측 모델에 블랙박스 접근을 통해 민감한 정보를 유추할 수 있는 프라이버시 리스크를 해결하기 위해.
• 전체 모델이 아닌 개별 예측에 대한 차별적 프라이버시를 보장할 경우, 기존의 차별적 프라이버시 학습에서 관찰되는 샘플 복잡도 오버헤드를 줄일 수 있는지 조사하기 위해.
• 높은 정확도를 유지하면서도 단일 예측에 대한 프라이버시를 보장하는 알고리즘을 개발하고 분석하기 위해.
• 완전히 비공개 모델을 훈련시키는 것과 비교해, 비공개 모델의 사전 평균화 방식이 더 높은 효율성을 달성할 수 있는지 탐색하기 위해.
• 개선된 알고리즘 설계를 지원하는 차별적 프라이버시 예측 인터페이스에 대한 일반화 경계를 수립하기 위해.

제안 방법

• 기본 모델은 비공개이지만 예측 인터페이스만 차별적 프라이버시를 보장하는 새로운 프라이버시 모델을 수립한다.
• 서로 다른 데이터 서브셋을 사용하고 비공개 모델의 예측 결과를 사전 평균화하는 기초 방법을 제안한다.
• 강력한 일반화 보장을 활용하여 사전 평균화의 오버헤드를 피하는, 직선 상의 임계값을 학습하기 위한 새로운 알고리즘을 도입한다.
• 모멘트 기반 분석과 마르코프 부등식을 사용하여 차별적 프라이버시 예측 알고리즘의 일반화 경계를 유도한다.
• 프레임워크를 볼록 회귀에 적용하고, 표준 설정에서 향상된 샘플 복잡도를 보여준다.
• 일관된 예측 안정성 개념을 사용하여, 사전 평균화 기반 접근 방식에서의 프라이버시 오버헤드를 줄인다.

실험 결과

연구 질문

• RQ1 개별 예측에 대한 차별적 프라이버시 보장이 비공개 모델 훈련 대비 샘플 복잡도 오버헤드를 줄일 수 있는가?
• RQ2 데이터 분포에 대한 강력한 가정이 없을 경우, 차별적 프라이버시 예측의 최적 샘플 복잡도는 무엇인가?
• RQ3 비공개 모델의 사전 평균화가 불리안 함수 클래스에 대해 거의 최적의 샘플 복잡도를 달성할 수 있는가?
• RQ4 강력한 일반화 보장을 어떻게 활용하여 효율적인 차별적 프라이버시 예측 알고리즘을 설계할 수 있는가?
• RQ5 특정 문제, 예를 들어 임계값이나 볼록 회귀 문제에서는 사전 평균화의 프라이버시 오버헤드를 피할 수 있는가?

주요 결과

• 비공개 모델의 사전 평균화 방식은 임의의 불리안 함수 클래스에 대한 PAC 학습에서 거의 최적의 샘플 복잡도를 달성한다.
• 직선 상의 임계값에 대해 제안된 알고리즘은 강력한 일반화 보장을 활용하여 사전 평균화의 오버헤드를 피한다.
• 레마 6.5의 일반화 경계는 새로운 데이터 세트에서의 기대 오차가 확률 1−β 이상으로 α·e²√(ε ln(1/β)) 이하로 제한됨을 보여준다.
• 이 방법은 고차원 데이터에 대해 표준 차별적 프라이버시 학습에서 관찰되는 차원에 의존하는 샘플 복잡도 패널티를 제거한다.
• 분석 결과, 차별적 프라이버시 예측은 강력한 일반화를 이끌어내지만, 차별적 프라이버시로 훈련된 모델만큼은 아니다.
• 일반화 경계에 나타나는 요소 e²√(ε ln(1/β))는 향후 e^O(ε) 수준으로 개선이 가능할 수 있음을 시사한다.