[論文レビュー] Don't Generate Me: Training Differentially Private Generative Models with Sinkhorn Divergence

Tianshi Cao, Alex Bie+3 more|arXiv (Cornell University)|Nov 1, 2021

Generative Adversarial Networks and Image Synthesis被引用数 9

ひとこと要約

この論文は、敵対的訓練を必要とせず、最適輸送に基づく生成モデルを訓練するための新しい半デバイアス付きSinkhorn散乱損失を用いた、微分プライバシーな生成モデルフレームワークであるDP-Sinkhornを提案する。プライバシー制約が厳しい条件下でも、公開データを用いず、情報豊かなRGB画像の合成が可能であり、複数のプライベート画像ベンチマークで最先端のFIDスコアと下流分類精度を達成した。

ABSTRACT

Although machine learning models trained on massive data have led to break-throughs in several areas, their deployment in privacy-sensitive domains remains limited due to restricted access to data. Generative models trained with privacy constraints on private data can sidestep this challenge, providing indirect access to private data instead. We propose DP-Sinkhorn, a novel optimal transport-based generative method for learning data distributions from private data with differential privacy. DP-Sinkhorn minimizes the Sinkhorn divergence, a computationally efficient approximation to the exact optimal transport distance, between the model and data in a differentially private manner and uses a novel technique for control-ling the bias-variance trade-off of gradient estimates. Unlike existing approaches for training differentially private generative models, which are mostly based on generative adversarial networks, we do not rely on adversarial objectives, which are notoriously difficult to optimize, especially in the presence of noise imposed by privacy constraints. Hence, DP-Sinkhorn is easy to train and deploy. Experimentally, we improve upon the state-of-the-art on multiple image modeling benchmarks and show differentially private synthesis of informative RGB images. Project page:https://nv-tlabs.github.io/DP-Sinkhorn.

研究の動機と目的

• 不安定なGANアーキテクチャに依存せずに、感受性の高いデータ向けに堅牢でプライバシーを守る生成モデルを訓練する課題に対処すること。
• ノイズ制約下で特に難しいとされる敵対的最適化を回避する、微分プライバシーな訓練手法を開発すること。
• 勾配推定におけるバイアス-バリアンストレードオフを制御することで、プライベートな生成モデルにおける画像品質と下流タスクのパフォーマンスを向上させること。
• 公開データを一切使用せずに、厳密な微分プライバシー制約下で高精細で情報豊富なRGB画像の合成を可能にすること。
• 最適輸送の原則に基づいた、微分プライバシーな生成モデルにおける新たなSOTAベースラインを確立すること。

提案手法

• 微分プライベートな訓練における勾配推定のバイアスとバリアンスのバランスを取るために、新しい半デバイアス付きSinkhorn損失を提案する。
• 正確なOT計算を避けるために、プライマル空間における最適輸送距離を効率的に近似するためのSinkhorn反復法を用いる。
• 最適化中に生成器のパラメータに対して勾配クリッピングとノイズ注入（DPSGD）を適用して微分プライバシーを実装する。
• 実画像と生成画像の間のL1およびL2損失に基づくコスト関数を導入し、分布マッチングを支援する。
• バリアンスを低減しながらバイアスを低く保つ部分的にデバイアスされた勾配推定器を導入し、訓練の安定性を向上させる。
• 生成器を、モデル分布とデータ分布の距離を最小化するSinkhorn散乱損失を主目的として訓練する。

実験結果

リサーチクエスチョン

• RQ1 敵対的でない、最適輸送に基づく手法が、微分プライベートな生成モデルにおいてGANベースの手法を上回る性能を達成できるか？
• RQ2 微分プライバシー下で、勾配推定におけるバイアス-バリアンストレードオフを効果的に制御することで、訓練の安定性と画像品質を向上させられるか？
• RQ3 公開データを一切使用せずに、厳密なプライバシー予算下で高精細で情報豊富なRGB画像を合成できるか？
• RQ4 敵対的でないフレームワークが、微分プライバシー下でFIDスコアおよび下流分類精度においてGANベースの手法を上回るか？
• RQ5 完全にOTに基づくアプローチを、プライベート画像生成に実用的かつスケーラブルなものにできるか？

主な発見

• DP-Sinkhornは、CIFAR-10やCelebAを含む複数の画像ベンチマークで、さまざまなプライバシー予算下で最先端のFIDスコアを達成した。
• CelebAでは、DP-Sinkhornが生成した画像は性別分類精度が90％を超えており、下流タスクにおける情報性と実用性を示している。
• 半デバイアス勾配推定器は、完全にバイアス付きおよび完全にデバイアスされたバージョンを上回り、最適なトレードオフ制御が可能であることを示している。
• Sinkhorn損失のL1損失バージョンはL2バージョンよりも優れたFIDスコアを達成したが、L1+L2の混合損失はFIDと下流精度の両方をバランスよく保った。
• DP-Sinkhornは、厳密なDP制約下でも高品質でぼやけないRGB画像を生成でき、Datalens や DP-MERF といった同時期の手法を視覚的品質で上回った。
• この手法は頑健で訓練が容易であり、微分プライベートなGANで一般的な訓練の不安定性を回避しており、早期停止を必要としない。