[논문 리뷰] Differentially Private Markov Chain Monte Carlo

Mikko Heikkilä, Joonas Jälkö외 2명|arXiv (Cornell University)|2019. 01. 29.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 수렴 가정을 검증할 수 없는 조건 없이 비대칭적이고 일반적인 목적의 미분적 비밀보장 Markov 체인 몽테카를로(DP-MCMC) 알고리즘을 처음으로 제안한다. 버커 수락 테스트를 분해하고 레니 미분 비밀보장(Rényi differential privacy)을 활용함으로써, 임의의 모델에서 사전 분포 추론을 가능하게 하는 방법을 제공한다. 데이터 샘플링을 통한 비밀보장 향상과 근사 수락 테스트를 통해 성능을 향상시킨다.

ABSTRACT

Recent developments in differentially private (DP) machine learning and DP Bayesian learning have enabled learning under strong privacy guarantees for the training data subjects. In this paper, we further extend the applicability of DP Bayesian learning by presenting the first general DP Markov chain Monte Carlo (MCMC) algorithm whose privacy-guarantees are not subject to unrealistic assumptions on Markov chain convergence and that is applicable to posterior inference in arbitrary models. Our algorithm is based on a decomposition of the Barker acceptance test that allows evaluating the R\'enyi DP privacy cost of the accept-reject choice. We further show how to improve the DP guarantee through data subsampling and approximate acceptance tests.

연구 동기 및 목표

• 마르코프 체인 수렴 여부에 의존하지 않는 엄격한 비대칭적 비밀보장 보장을 제공하는 차별적 비밀보장 MCMC 방법을 개발하는 것.
• 기존 DP 베이지안 방법의 한계를 극복하여 정확한 사후 분포 샘플링에 의존하거나 특정 모델에 국한되는 것을 방지하는 것.
• 연속 변수나 미분 가능성 조건 없이도 임의의 모델에서 비밀보장된 사후 분포 추론을 가능하게 하는 것.
• 데이터 샘플링과 근사 수락 테스트를 통해 비밀보장-정확도 트레이드오프를 향상시키는 것.

제안 방법

• 버커 수락 테스트의 분해를 기반으로 한 새로운 DP-MCMC 알고리즘을 제안하여 레니 미분 비밀보장(RDP) 비용을 평가한다.
• RDP 프레임워크를 사용하여 체인 수렴 여부에 영향을 받지 않는 날것으로 조합 가능한 비밀보장 경계를 제공한다.
• 비밀보장 손실을 줄이기 위해 데이터 샘플링을 적용하고, 샘플링에 의해 발생하는 편향을 보정하기 위해 수정된 노이즈 분포를 사용한다.
• 세부 균형을 유지하면서 계산 비용을 줄이는 근사 수락 테스트를 도입한다.
• 고차원 공간에서 혼합과 수렴을 향상시키기 위해 파wr-템퍼링을 통한 온도 조절된 사후 분포를 활용한다.
• 레니 발산을 사용해 비밀보장 경계를 유도하고, 실용적 사용을 위해 이를 (ϵ, δ)-DP 보장을로 변환한다.

실험 결과

연구 질문

• RQ1 마르코프 체인 수렴 여부에 의존하지 않는 비대칭적 비밀보장 보장을 갖는 일반 목적의 DP-MCMC 알고리즘을 설계할 수 있는가?
• RQ2 미분적 비밀보장 하에서 MCMC의 수락-기각 결정의 비밀보장 비용을 엄밀하게 정량화할 수 있는가?
• RQ3 데이터 샘플링을 통해 비밀보장 손실을 효과적으로 줄일 수 있는가, 동시에 정확한 사후 근사 유지가 가능한가?
• RQ4 샘플링에 의해 유도되는 노이즈 분포를 어떻게 보정하여 추론 정확도를 향상시킬 수 있는가?
• RQ5 근사 수락 테스트가 비밀보장과 샘플링 효율성에 미치는 영향은 어떠한가?

주요 결과

• 제안된 DP-MCMC 방법은 사후 분포 수렴 여부를 검증하지 않아도 엄격한 비대칭적 비밀보장 보장을 달성한다.
• 기존 기울기 기반 DP-MCMC 접근 방식과 달리, 이 방법은 이산 변수를 포함한 임의의 모델에서 비밀보장된 사후 분포 추론을 가능하게 한다.
• 데이터 샘플링은 비밀보장 손실을 줄이며, 보정된 노이즈 분포는 단순 샘플링 대비 정확도를 크게 향상시킨다.
• 레니 DP의 사용은 표준 DP 대비 더 날것으로 조합 가능한 비밀보장 경계를 가능하게 하여 유틸리티를 향상시킨다.
• 특히 고차원 및 비미분 가능 모델에서 기존 DP-MCMC 방법보다 비밀보장-유틸리티 트레이드오프에서 뛰어난 성능을 보인다.
• 실험 결과는 특히 변분 추론을 초기화 방법으로 사용할 경우, 사후 분산 추정과 샘플링 효율성이 향상됨을 보여준다.