[論文レビュー] Oracle Efficient Private Non-Convex Optimization

Seth Neel, Aaron Roth+2 more|arXiv (Cornell University)|Sep 3, 2019

Blockchain Technology Applications and Security被引用数 6

ひとこと要約

本稿では、凸および滑らかでない設定にまで拡張された、オракル効率の良い微分プライバシー最適化アルゴリズムを2つ提案する。1つ目は、損失関数が有界であるだけの離散ドメインで動作するもので、2つ目はリプシッツ連続性を満たす連続ドメインで動作するものである。両者とも凸性の仮定を必要とせず、小データ設定において凸の代理関数法よりも高い精度を達成する。

ABSTRACT

One of the most effective algorithms for differentially private learning and optimization is objective perturbation. This technique augments a given optimization problem (e.g. deriving from an ERM problem) with a random linear term, and then exactly solves it. However, to date, analyses of this approach crucially rely on the convexity and smoothness of the objective function, limiting its generality. We give two algorithms that extend this approach substantially. The first algorithm requires nothing except boundedness of the loss function, and operates over a discrete domain. Its privacy and accuracy guarantees hold even without assuming convexity. This gives an oracle-efficient optimization algorithm over arbitrary discrete domains that is comparable in its generality to the exponential mechanism. The second algorithm operates over a continuous domain and requires only that the loss function be bounded and Lipschitz in its continuous parameter. Its privacy analysis does not require convexity. Its accuracy analysis does require convexity, but does not require second order conditions like smoothness. Even without convexity, this algorithm can be generically used as an oracle-efficient optimization algorithm, with accuracy evaluated empirically. We complement our theoretical results with an empirical evaluation of the non-convex case, in which we use an integer program solver as our optimization oracle. We find that for the problem of learning linear classifiers, directly optimizing for 0/1 loss using our approach can out-perform the more standard approach of privately optimizing a convex-surrogate loss function on the Adult dataset.

研究の動機と目的

• 従来の手法が強い仮定に依存するのに対し、凸および滑らかでない目的関数への微分プライバシー最適化を拡張すること。
• 凸性や滑らかさの仮定なしに、プライバシーと精度を保証する離散ドメイン向けのオラクル効率の良いアルゴリズムを開発すること。
• パラメータにおける損失関数のリプシッツ連続性のみを仮定する連続ドメイン用のアルゴリズムを設計し、2階の条件を必要としない条件下でプライバシー保証と精度を達成すること。
• 小データ環境下で、0/1損失の直接的なプライベート最適化が、プライベートロジスティック回帰を上回ることを実験的に検証すること。
• 実世界のプライベート学習における実用的妥当性を示すために、整数プログラミングオラクルを用いること。

提案手法

• 混合整数計画（MIP）オラクルを用いて正確に解く、離散最適化アルゴリズムOPDiscを導入。目的関数にランダムな線形項を追加し、これを最適化する。
• 各重み係数の座標に対して、ℓ₂ノルム制約付きの有界な離散パラメータ空間とグリッドを用いる。
• 凸性がなくても成立する感度とランダムレスポンスに基づく新しいプライバシー解析を採用する。
• 損失関数のパラメータにおけるリプシッツ連続性のみを仮定する連続ドメインの変種を提案し、プライバシー解析を凸性とは独立に実施する。
• ランダムな線形項を目的関数に追加した後、連続最適化オラクルを用いて摂動された問題を解く。
• MIP定式化を用いてオラクルを実装し、Gurobiを用いて解くことで、Adultデータセット上での実用的導入を可能にする。

実験結果

リサーチクエスチョン

• RQ1 凸性や滑らかさの仮定なしに、有界損失の非凸問題へ目的関数摂動を拡張できるか？
• RQ2 1-感度のみを満たす離散ドメインで、オラクル効率的かつ精度の高い微分プライバシー最適化アルゴリズムを構築できるか？
• RQ3 小データ環境下で、0/1損失関数の直接的プライベート最適化が、凸の代理損失関数のプライベート最適化を上回るか？
• RQ4 凸性の仮定なしに、連続ドメインのプライベート最適化アルゴリズムがプライバシー保証を達成できるか？
• RQ5 実騴的性能として、0/1損失の直接的最適化は、プライベートロジスティック回帰と比較して、精度と実行時間の点でどのように差がでるか？

主な発見

• OPDiscは、特にεが小さい値のとき、Adultデータセット上での0/1分類精度がプライベートロジスティック回帰を著しく上回る。
• OPDiscは、15回の実験にわたって、RSPMと比較して精度と分散の両面で優れており、一貫して低い誤差を示す。
• 本手法は、凸性や滑らかさの仮定なしに、損失関数の有界性と1-感度にのみ依存してプライバシーを達成する。
• 連続ドメイン用のアルゴリズムは、2階の条件を必要とせず、リプシッツ連続性のみを仮定することでプライバシー保証を達成する。
• 実験結果から、小データ環境下では、0/1損失の直接的プライベート最適化が、標準的な凸の代理関数法を上回ることが示された。
• 整数計画法に起因する実行時間の変動は大きいが、すべての実行が妥当な時間枠内で正常に完了した。