[論文レビュー] Gradient Perturbation is Underrated for Differentially Private Convex Optimization

Dahua Yu, Huishuai Zhang+3 more|arXiv (Cornell University)|Nov 26, 2019

Privacy-Preserving Technologies in Data参考文献 29被引用数 7

ひとこと要約

本稿は、勾配ノイズの平均的最適化挙動を捉える期待曲率という指標を導入することで、プライバシー保護付き凸最適化における勾配摂動の再評価を行う。これにより、従来手法に比べて顕著に向上した有効性保証が得られる。著者らは理論的にも実験的にも、勾配摂動が目的関数摂動や出力摂動を上回ることを示し、特に高度な合成技法を組み合わせた場合に顕著である。

ABSTRACT

Gradient perturbation, widely used for differentially private optimization, injects noise at every iterative update to guarantee differential privacy. Previous work first determines the noise level that can satisfy the privacy requirement and then analyzes the utility of noisy gradient updates as in the non-private case. In contrast, we explore how privacy noise affects optimization property. We show that for differentially private convex optimization, the utility guarantee of differentially private (stochastic) gradient descent is determined by an \emph{expected curvature} rather than the minimum curvature. The \emph{expected curvature}, which represents the average curvature over the optimization path, is usually much larger than the minimum curvature. By using the \emph{expected curvature}, we show that gradient perturbation can achieve a significantly improved utility guarantee that can theoretically justify the advantage of gradient perturbation over other perturbation methods. Finally, our extensive experiments suggest that gradient perturbation with the advanced composition method indeed outperforms other perturbation approaches by a large margin, matching our theoretical findings.

研究の動機と目的

• 勾配摂動が他のDP手法に比べて実験的に優れているにもかかわらず、現存する有効性保証にそれが反映されていない理論的ギャップを解消すること。
• プライバシー用ノイズが勾配摂動に与える影響を、単なる加法的摂動として扱うのでなく、最適化ダイナミクスと統合的に分析すること。
• 最適化経路に沿った期待曲率に基づく新しい理論枠組みを構築し、ノイズ注入下での実際の最適化経路をよりよく反映すること。
• 実世界のデータセットを用いた実験により、高度な合成を組み合わせた勾配摂動が他の摂動手法を上回ることを検証すること。
• 期待曲率が、最小曲率よりも、プライバシー保護付き最適化における有効性を決定づける鍵要因であることを示すこと。

提案手法

• 最適化経路に沿ったヘッセ行列のノルムの平均値として定義される期待曲率を導入し、勾配ノイズ下での最適化挙動を特徴づける。
• 従来の有効性解析で用いられる最小曲率仮定を、通常ははるかに大きく、実際の最適化進行状況をより的確に反映する期待曲率に置き換える。
• 期待曲率に依存する新しいDP-GDおよびDP-SGDの有効性境界を導出し、最小曲率に基づく従来の研究に比べて顕著な改善を示す。
• 高度な合成定理を適用し、プライバシー損失をきめ細かく推定し、より小さなノイズ分散を用いることで、プライバシーを保ちながら有効性を向上させる。
• 数値積分を用いてプライバシー損失を正確に推定し、保守的な上界近似に比べてより小さなノイズレベルを可能にする。
• 学習率スケジューリングと勾配クリッピングを用いて、DP-SGDの訓練を安定化させ、収束性を向上させ、プライベートディープラーニングのベストプラクティスに準拠する。

実験結果

リサーチクエスチョン

• RQ1 勾配摂動が、有効性保証が弱いにもかかわらず、プライバシー保護付き最適化において実験的に目的関数摂動や出力摂動を上回る理由は何か？
• RQ2 プライバシー用ノイズと最適化ダイナミクスの相互作用を活用することで、よりタイトな有効性境界を導出できるか？
• RQ3 最小曲率は、ノイズ付き勾配降下法における有効性分析に十分かつ正確な指標であるか？
• RQ4 最適化経路に沿った期待曲率は、最小曲率よりも有効性のより良い代理指標として機能できるか？
• RQ5 曲率に配慮したノイズスケジューリングと高度な合成を組み合わせることで、DP-ERMにおける実験的性能が向上するか？

主な発見

• 最適化経路に沿った期待曲率（ヘッセ行列ノルムの平均）は、最小曲率に比べて顕著に大きく、ノイズ下での最適化進行状況をより的確に反映する。
• DP-GDおよびDP-SGDの理論的有効性境界は、最小曲率を期待曲率に置き換えることで改善され、よりタイトで現実的な性能保証が得られる。
• Adult、MNIST、Real-sim、RCV1の4つの実世界データセットを用いた実験では、高度な合成と曲率に配慮したノイズを用いたDP-SGDがAMPおよびOutput-SGDを上回り、Real-simでは最大76.1%、RCV1では74.9%の精度を達成した。
• DP-GDはAdultで80.9%、MNISTで88.6%の精度を達成し、AMPおよびOutput-SGDを上回り、勾配摂動の理論的優位性が裏付けられた。
• DP-SGDと従来手法との性能差の主な要因は、よりタイトなプライバシー会計と学習率スケジューリングであり、これらは以前の実装では使用されていなかった。
• 本稿は、最小曲率に依存しないDP-ERMの有効性保証を初めて提示した。これは、勾配摂動の分析における理論的進展を示している。