[논문 리뷰] Local Differential Privacy for Bayesian Optimization

Xingyu Zhou, Jian Tan|arXiv (Cornell University)|2020. 10. 13.

Advanced Bandit Algorithms Research참고 문헌 24인용 수 7

한 줄 요약

이 논문은 중앙값의 평균 추정과 커널 근사화를 사용하여 국소적 차별적 프라이버시(LDP)를 달성하는 새로운 베이지안 최적화 알고리즘인 MoMA-GP-UCB를 제안한다. 이는 프라이버시 제약 조건 하에서도 강력한 성능을 보이며, LDP 밴디트 설정에 대한 리그레트 하한을 수립하고, 복잡도를 감소시켜 거의 최적의 리그레트를 달성한다. 기존 방법들과 비교해 합성 및 실세계 데이터에서 프라이버시 보장 및 비프라이버시 상황 모두에서 뛰어난 성능을 보인다.

ABSTRACT

Motivated by the increasing concern about privacy in nowadays data-intensive online learning systems, we consider a black-box optimization in the nonparametric Gaussian process setting with local differential privacy (LDP) guarantee. Specifically, the rewards from each user are further corrupted to protect privacy and the learner only has access to the corrupted rewards to minimize the regret. We first derive the regret lower bounds for any LDP mechanism and any learning algorithm. Then, we present three almost optimal algorithms based on the GP-UCB framework and Laplace DP mechanism. In this process, we also propose a new Bayesian optimization (BO) method (called MoMA-GP-UCB) based on median-of-means techniques and kernel approximations, which complements previous BO algorithms for heavy-tailed payoffs with a reduced complexity. Further, empirical comparisons of different algorithms on both synthetic and real-world datasets highlight the superior performance of MoMA-GP-UCB in both private and non-private scenarios.

연구 동기 및 목표

• 프라이버시 보존 보상 오염 상황에서 국소적 차별적 프라이버시(LDP) 베이지안 최적화 방법의 부재를 해결하기 위해.
• 가우스 프로세스 밴디트 설정에서 어떤 LDP 메커니즘과 학습 알고리즘에 대해서도 기본적인 리그레트 하한을 유도하기 위해.
• LDP 제약 조건 하에서도 낮은 리그레트를 유지하면서 효율적인 프라이버시 보장 베이지안 최적화 알고리즘을 개발하기 위해.
• 헤비테일 및 프라이버시 보장 보상 분포 하에서 베이지안 최적화의 확장성과 강건성을 향상시키기 위해.

제안 방법

• 헤비테일 보상 하에서 추정을 안정화하기 위해 중앙값의 평균 기법을 사용하는 새로운 GP-UCB 기반 알고리즘인 MoMA-GP-UCB를 제안한다.
• LDP 하에서 가우스 프로세스 추론의 계산 복잡도를 감소시키기 위해 커널 근사화를 적용한다.
• 개별 보상을 관측하기 전에 흐림을 적용하기 위해 라플라스 메커니즘을 통합한다. 이는 국소적 차별적 프라이버시를 보장한다.
• 신뢰도 구간의 안정성 향상과 분산 감소를 위해 블록 단위의 샘플링 전략과 그룹화된 관측을 사용한다.
• 집중 부등식과 행렬 편향 이론을 활용하여 추정 오차에 대한 고확률 신뢰도 경계를 도출한다.
• 중앙값의 평균 안정성과 커널 근사화 오차 통제를 결합하여 이론적 리그레트 경계를 수립한다.

실험 결과

연구 질문

• RQ1 왜곡된 보상이 존재하는 베이지안 최적화 설정에서 어떤 학습 알고리즘과 LDP 메커니즘에 대해서도 기본적인 리그레트 하한은 무엇인가?
• RQ2 국소적 차별적 프라이버시를 보장하면서도 낮은 리그레트를 유지하는 베이지안 최적화 알고리즘은 어떻게 설계할 수 있는가?
• RQ3 중앙값의 평균과 커널 근사화 기법을 효과적으로 조합하여 LDP 및 헤비테일 보상 하에서 복잡도를 감소시키고 강건성을 향상시킬 수 있는가?
• RQ4 제안된 MoMA-GP-UCB 알고리즘의 성능은 합성 및 실세계 설정에서 기존의 프라이버시 및 비프라이버시 BO 방법과 비교해 어떻게 되는가?

주요 결과

• 논문은 가우스 프로세스 밴디트 설정에서 어떤 LDP 메커니즘과 학습 알고리즘에 대해서도 리그레트 하한을 수립하여, 프라이버시-유용성 트레이드오프에 대한 이론적 기준을 제공한다.
• MoMA-GP-UCB는 누적 리그레트 경계를 $ O\left(\hat{B}\sqrt{\gamma_T T \ln\frac{T}{\delta}} + Z\ln\frac{T}{\delta} c^{\frac{1}{1+\alpha}} T^{\frac{1}{1+\alpha}} \gamma_T^{\frac{3+\alpha}{2(1+\alpha)}}\right) $ 로 달성한다. 여기서 $ \hat{B} $ 와 $ Z $ 는 프라이버시 및 노이즈 파라미터에 따라 달라진다.
• 빛 센서 및 주식 시장 데이터를 포함한 다양한 합성 및 실세계 데이터셋에서 기존의 LDP 기반 방법들과 비교해 뛰어난 경험적 성능을 보였다.
• 제안된 중앙값의 평균 및 커널 근사화 기법은 계산 복잡도를 크게 감소시키면서도 헤비테일 보상 분포에 대한 강건성을 유지한다.
• 경험적 결과는 MoMA-GP-UCB가 비프라이버시 설정에서도 경쟁력 있는 성능을 보이며, 프라이버시 제약 조건을 초월한 일반화 이점을 보여준다.
• 라플라스 메커니즘을 통해 강력한 프라이버시 보장을 달성했으며, 안정된 추정을 통해 타이트한 신뢰도 경계를 유지함을 광범위한 실험을 통해 검증하였다.