[論文レビュー] Tailoring Gradient Methods for Differentially-Private Distributed Optimization

Yongqiang Wang, Angelia Nedić|arXiv (Cornell University)|Feb 2, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本稿では、静的コアリションと動的コアリション（勾配追跡）に基づく、分散最適化のための2つの新規な微分プライバシー勾配手法を提案する。これらの手法は、無限回の反復に対しても、$\epsilon$-微分プライバシーと最適解への確実収束を同時に満たす。本手法は、有限のプライバシー予算で厳密なプライバシーを実現しつつ、最適化の精度を維持する。

ABSTRACT

Decentralized optimization is gaining increased traction due to its widespread applications in large-scale machine learning and multi-agent systems. The same mechanism that enables its success, i.e., information sharing among participating agents, however, also leads to the disclosure of individual agents' private information, which is unacceptable when sensitive data are involved. As differential privacy is becoming a de facto standard for privacy preservation, recently results have emerged integrating differential privacy with distributed optimization. However, directly incorporating differential privacy design in existing distributed optimization approaches significantly compromises optimization accuracy. In this paper, we propose to redesign and tailor gradient methods for differentially-private distributed optimization, and propose two differential-privacy oriented gradient methods that can ensure both rigorous epsilon-differential privacy and optimality. The first algorithm is based on static-consensus based gradient methods, and the second algorithm is based on dynamic-consensus (gradient-tracking) based distributed optimization methods and, hence, is applicable to general directed interaction graph topologies. Both algorithms can simultaneously ensure almost sure convergence to an optimal solution and a finite privacy budget, even when the number of iterations goes to infinity. To our knowledge, this is the first time that both goals are achieved simultaneously. Numerical simulations using a distributed estimation problem and experimental results on a benchmark dataset confirm the effectiveness of the proposed approaches.

研究の動機と目的

• 分散最適化において、共有される勾配や変数が機微なデータを漏洩するおそれがあるため、個々のエージェントのプライバシーを保護するという重要な課題に取り組む。
• 従来の分散手法における微分プライバシーと最適化精度のトレードオフを克服する。
• 一般の有向グラフトポロジーにおいても、$\epsilon$-微分プライバシーと最適解への確実収束を保証する勾配手法を設計する。
• 通信オーバーヘッドを最小限に抑え、無限反復においても有限のプライバシー予算を有するプライバシー保護型分散最適化を実現する。

提案手法

• 固定ステップサイズと勾配更新におけるノイズ注入を用いて、$\epsilon$-微分プライバシーと収束性を保証する静的コアリションに基づく微分プライバシー勾配手法を提案する。
• 一般の有向相互作用グラフをサポートする動的コアリション（勾配追跡）に基づく手法を導入し、適切に設計されたノイズスケーリングによりプライバシーを維持する。
• 目的関数のギャップ、コアリション誤差、勾配追跡誤差を追跡する合成ベクトル$\mathbf{v}^{k}$を用いたリャプノフ型解析により収束性を確立する。
• 行列$V^k$、$A^k$、$H^k$、$B^k$を用いた再帰的期待値バウンドを導出し、確率的勾配とノイズ下での誤差項の進化を分析する。
• ノイズおよび誤差項の和が収束することを保証するため、ステップサイズ列$\gamma_1^k$、$\gamma_2^k$、$\alpha^k$に条件を適用する。これにより、確実収束が可能になる。
• 局所勾配感度に比例するノイズを注入するプライバシー機構を用いることで、無限反復においても有限のプライバシー予算（$\epsilon$）を確保する。

実験結果

リサーチクエスチョン

• RQ1 無限反復に対しても、最適解への収束を損なわず、微分プライバシー分散最適化を達成できるか？
• RQ2 勾配ベースの分散最適化は、どのように再設計すれば、厳密な$\epsilon$-微分プライバシーと最適性を同時に満たすことができるか？
• RQ3 プライバシー保護型分散最適化は、バランスの取れたグラフに限らず、一般の有向通信グラフへ拡張可能か？
• RQ4 どのようなステップサイズおよびノイズスケーリング方針が、分散勾配手法における有限のプライバシー予算と確実収束を両立させるか？

主な発見

• 提案された静的コアリションに基づく手法は、無向グラフまたはバランスの取れたグラフにおいて、$\epsilon$-微分プライバシーと最適解への確実収束を保証する。
• 動的コアリションに基づく手法は、静的コアリション手法の制限を超えて、一般の有向グラフに対してもプライバシーと収束性の保証を拡張する。
• 両手法とも、反復回数が無限に近づく場合でも、有限のプライバシー予算（$\epsilon$）を維持する。これは、先行研究と比較して顕著な進展である。
• 収束解析により、$\lambda^k \|\bar{y}^{k+1} - \bar{g}^{k+1}\|^2$が確実に和が収束することを証明し、勾配追跡誤差が時間とともに減少することを保証する。
• 分散推定問題およびベンチマークデータセットにおける数値シミュレーションにより、本手法のプライバシーと最適化精度のバランスの良さが確認された。
• ノイズ注入機構により、勾配推定の感度を制御することで、反復回数が無限であってもプライバシー予算が有限かつ有界であることが保証される。