[논문 리뷰] Differential Privacy and Machine Learning: a Survey and Review

Zhanglong Ji, Zachary C. Lipton외 1명|arXiv (Cornell University)|2014. 12. 24.

Privacy-Preserving Technologies in Data참고 문헌 56인용 수 193

한 줄 요약

이 논문은 차별적 비밀보장 기반 기계학습에 대해 종합적으로 검토하며, 학습 모델에서 비밀보장성과 유용성의 균형을 이루는 방법을 제안한다. 노이즈 추가, 모델 수정, 공공 데이터 통합, 반복적 노이즈 추가 등의 기법을 제시하여, 정규화된 모델에서 노이즈 스케일링이 O(1/n)일 경우와 같은 특정 조건 하에서 비밀보장성이 유용성에 영향을 주지 않는다는 것을 보여준다.

ABSTRACT

The objective of machine learning is to extract useful information from data, while privacy is preserved by concealing information. Thus it seems hard to reconcile these competing interests. However, they frequently must be balanced when mining sensitive data. For example, medical research represents an important application where it is necessary both to extract useful information and protect patient privacy. One way to resolve the conflict is to extract general characteristics of whole populations without disclosing the private information of individuals. In this paper, we consider differential privacy, one of the most popular and powerful definitions of privacy. We explore the interplay between machine learning and differential privacy, namely privacy-preserving machine learning algorithms and learning-based data release mechanisms. We also describe some theoretical results that address what can be learned differentially privately and upper bounds of loss functions for differentially private algorithms. Finally, we present some open questions, including how to incorporate public data, how to deal with missing data in private datasets, and whether, as the number of observed samples grows arbitrarily large, differentially private machine learning algorithms can be achieved at no cost to utility as compared to corresponding non-differentially private algorithms.

연구 동기 및 목표

• 데이터에서 유용한 정보를 추출하고자 하는 목표와 개인의 개인정보를 보호하고자 하는 목표 사이의 갈등을 해소하기 위해.
• 민감한 데이터셋에 대한 배경 공격를 방지하기 위해 전통적인 익명화 및 k-익명성의 한계를 해결하기 위해.
• 분류, 회귀, 군집, 차원 축소와 같은 핵심 기계학습 작업에 차별적 비밀보장을 통합할 수 있는 방법을 탐색하기 위해.
• 데이터셋 크기가 증가함에 따라 차별적 비밀보장이 모델의 유용성에 비용을 지불하지 않고 달성될 수 있는지 조사하기 위해.
• 결측 데이터 처리, 공공 데이터 사용, 시간적 또는 구조적 의료 기록과 같은 비관계형 데이터에 대한 비밀보장 메커니즘 설계와 같은 열린 과제들을 검토하기 위해.

제안 방법

• 개인 데이터 변경에 대한 감도가 제한된 차별적 비밀보장을 정의하여, 모델 출력이 개인 정보를 드러내지 않도록 보장한다.
• 전체 감도와 라플라스 기반 기법을 적용하여 쿼리 출력에 노이즈를 추가함으로써 비밀보장을 확보하면서도 유용성을 유지한다.
• 고감도 유도 값(예: 조건부 확률)이 아닌 저감도 성분(예: 나이브 베이즈의 원시 빈도 수)에 노이즈를 추가하여 노이즈의 크기를 줄인다.
• 감도를 감소시키고 비밀보장-유용성 트레이드오프를 향상시키기 위해 모델 변환(예: 커널 SVM에서 선형 SVM으로의 변환)을 제안한다.
• 유사한 인구집단에서 유래한 공공 데이터셋을 활용하여 비밀보장 학습 메커니즘의 노이즈를 줄이고 유용성을 향상시킨다.
• 최적화 경로에서 반복적으로 노이즈를 추가하는 방법을 고려하며, 이는 최종 모델의 감도보다 각 단계의 감도가 낮기 때문에, MCMC 또는 유사한 방법을 통해 비밀보장 학습이 가능하다.

실험 결과

연구 질문

• RQ1 차별적 비밀보장 기반 기계학습 알고리즘은 데이터셋 크기가 증가함에 따라 높은 유용성을 유지할 수 있는가?
• RQ2 비밀보장성이 모델의 유용성에 비용을 지불하지 않는 조건은 무엇인가? 즉, 비밀보장 노이즈가 표본 랜덤성의 노이즈보다 渐진적으로 작아질 때는 언제인가?
• RQ3 공공 데이터는 어떻게 효과적으로 활용하여 차별적 비밀보장 학습 메커니즘의 성능을 향상시킬 수 있는가?
• RQ4 의료 기록과 같은 완전하지 않은, 시간적 또는 구조적 데이터셋에 차별적 비밀보장을 적용할 때의 과제는 무엇인가?
• RQ5 차별적 비밀보장과 모델 일반화의 목표는 기계학습에서 얼마나 서로 호환되는가?

주요 결과

• 정규화된 로지스틱 회귀 및 선형 SVM의 경우, 노이즈 스케일링이 O(1/n)일 때 차별적 비밀보장을 달성할 수 있으며, 이는 표본 랜덤성의 노이즈 O(1/√n)보다 渐진적으로 작기 때문에, 유용성 측면에서 비밀보장이 실제로 비용이 들지 않는 것으로 간주할 수 있다.
• 논문 [6]의 메커니즘은 특정 모델에 대해 무료 ϵ-차별적 비밀보장을 달성한다. 이 경우 비밀보장 노이즈가 비비밀보장 기반 모델 대비 성능 저하를 초래하지 않는다.
• 공공 데이터를 사용하면 [28, 29]에서 보여진 바와 같이 비밀보장 학습 메커니즘의 성능을 향상시킬 수 있다. 이는 비밀보장 데이터 처리에 필요한 고노이즈를 줄이기 때문이다.
• 고감도 유도 값(예: 조건부 확률)이 아닌 저감도 성분(예: 원시 빈도 수)에 노이즈를 추가하면 노이즈의 크기를 크게 줄이고 유용성을 향상시킬 수 있다.
• 최적화 경로에서 반복적으로 노이즈를 추가하면, 최종 모델 감도보다 총 감도가 낮아질 수 있으며, 이는 MCMC 기반 알고리즘을 통해 비밀보장 학습을 가능하게 한다.
• 차별적 비밀보장과 모델 일반화는 호환된다. 둘 다 개인 샘플에 대한 과적합을 줄이는 것을 목표로 하므로, 비밀보장과 강건성 간에 자연스러운 상호보완성이 존재한다.