[論文レビュー] Local Differential Privacy for Bayesian Optimization

Xingyu Zhou, Jian Tan|arXiv (Cornell University)|Oct 13, 2020

Advanced Bandit Algorithms Research参考文献 24被引用数 7

ひとこと要約

本稿では、中央値の平均推定とカーネル近似を用いて局所的微分プライバシー（LDP）を達成する、新しいベイズ最適化アルゴリズムであるMoMA-GP-UCBを提案する。これにより、プライバシー制約下でも頑健な性能が得られる。LDPバンディット設定におけるレグレットの下界を確立し、MoMA-GP-UCBが複雑さを低減しつつほぼ最適なレグレットを達成することを示し、合成データおよび実世界のデータにおいて、既存のプライベートおよび非プライベート手法を上回る性能を発揮する。

ABSTRACT

Motivated by the increasing concern about privacy in nowadays data-intensive online learning systems, we consider a black-box optimization in the nonparametric Gaussian process setting with local differential privacy (LDP) guarantee. Specifically, the rewards from each user are further corrupted to protect privacy and the learner only has access to the corrupted rewards to minimize the regret. We first derive the regret lower bounds for any LDP mechanism and any learning algorithm. Then, we present three almost optimal algorithms based on the GP-UCB framework and Laplace DP mechanism. In this process, we also propose a new Bayesian optimization (BO) method (called MoMA-GP-UCB) based on median-of-means techniques and kernel approximations, which complements previous BO algorithms for heavy-tailed payoffs with a reduced complexity. Further, empirical comparisons of different algorithms on both synthetic and real-world datasets highlight the superior performance of MoMA-GP-UCB in both private and non-private scenarios.

研究の動機と目的

• プライバシー保護された報酬の汚染が存在する状況における、局所的微分プライバシー（LDP）を満たすベイズ最適化手法の不足に対処すること。
• ガウス過程バンディット設定において、任意のLDPメカニズムと学習アルゴリズムに対して、根本的なレグレットの下界を導出すること。
• LDP制約下でも低レグレットを維持できる、効率的かつプライベートなベイズ最適化アルゴリズムを開発すること。
• 重尾分布およびプライベートな報酬分布下でのベイズ最適化のスケーラビリティとロバストネスを向上させること。

提案手法

• 重尾報酬下での推定安定性を高めるために、中央値の平均技術を用いた新しいGP-UCBベースのアルゴリズム、MoMA-GP-UCBを提案する。
• LDP下でのガウス過程推論における計算複雑性を低減するため、カーネル近似を採用する。
• 個々の報酬が観測される前に摂動されるのを保証するため、ラプラスメカニズムを統合する。
• 信頼区間の安定性を向上させ、分散を低減するために、グループ化された観測を用いたブロックワイドサンプリング戦略を採用する。
• 集中不等式および行列摂動理論を用いて、推定誤差の高確率的信頼区間を導出する。
• 中央値の平均の安定性とカーネル近似誤差の制御を組み合わせることで、理論的レグレット境界を確立する。

実験結果

リサーチクエスチョン

• RQ1 汚染された報酬を伴うベイズ最適化設定において、任意の学習アルゴリズムとLDPメカニズムに対して、根本的なレグレットの下界は何か？
• RQ2 局所的微分プライバシーを保証しつつ、低レグレットを維持できるベイズ最適化アルゴリズムはどのように設計できるか？
• RQ3 中央値の平均とカーネル近似技術を効果的に組み合わせることで、LDPおよび重尾報酬下での複雑さの低減とロバストネスの向上が可能か？
• RQ4 提案されたMoMA-GP-UCBアルゴリズムの性能は、合成的および実世界の設定において、既存のプライベートおよび非プライベートなBO手法と比較してどうなるか？

主な発見

• 本稿では、ガウス過程バンディット設定において、任意のLDPメカニズムと学習アルゴリズムに対して、レグレットの下界を確立し、プライバシーと有用性のトレードオフの理論的ベンチマークを提供する。
• MoMA-GP-UCBは、累積レグレット境界として $ O\left(\hat{B}\sqrt{\gamma_T T \ln\frac{T}{\delta}} + Z\ln\frac{T}{\delta} c^{\frac{1}{1+\alpha}} T^{\frac{1}{1+\alpha}} \gamma_T^{\frac{3+\alpha}{2(1+\alpha)}}\right) $ を達成する。ここで $ \hat{B} $ および $ Z $ は、プライバシーとノイズパラメータに依存する。
• 本アルゴリズムは、光センサーや株式市場データを含む、複数の合成的および実世界のデータセットにおいて、ベースラインLDP手法よりも優れた経験的性能を示す。
• 提案された中央値の平均とカーネル近似技術は、計算複雑性を顕著に低減するとともに、重尾報酬分布に対して高いロバストネスを維持する。
• 経験的結果から、MoMA-GP-UCBは非プライベートな設定においても競争力ある性能を示しており、プライバシー制約を超えた一般化の利点があることが示唆される。
• ラプラスメカニズムにより強力なプライバシー保証を達成するとともに、安定した推定によりタイトな信頼区間を維持しており、広範な実験により検証されている。