[論文レビュー] Generative Adversarial Privacy

Chong Huang, Peter Kairouz+3 more|arXiv (Cornell University)|Jul 13, 2018

Privacy-Preserving Technologies in Data参考文献 16被引用数 40

ひとこと要約

GAP は privatization 機構をデータから直接学習する minimax ゲームを privatizer と adversary の間で行い、選択された損失関数の下でプライバシー保証を提供し、GENKI 顔データセットで評価されます。

ABSTRACT

We present a data-driven framework called generative adversarial privacy (GAP). Inspired by recent advancements in generative adversarial networks (GANs), GAP allows the data holder to learn the privatization mechanism directly from the data. Under GAP, finding the optimal privacy mechanism is formulated as a constrained minimax game between a privatizer and an adversary. We show that for appropriately chosen adversarial loss functions, GAP provides privacy guarantees against strong information-theoretic adversaries. We also evaluate GAP's performance on the GENKI face database.

研究の動機と目的

• データセットの統計量を活用した文脈依存のプライバシーを用いたプライベートなデータ公開を動機づける。
• 完全な事前統計量を持たずに g(X,Y) を学習するデータ駆動の privatization フレームワークを提案する。
• privacy を privatizer と adversary の間の拘束付き minimax ゲームとして定式化する。
• 実データセット上で GAP を実証し、プライバシーと有用性のトレードオフを示す。

提案手法

• X を公開変数、Y を秘密変数として、(X,Y) のペアを P(X,Y) から抽出する。
• hat{X}=g(X,Y) という privatization 関数と、Y を推測しようとする adversary h(g(X,Y)) を導入する。
• 歪み制約 E[d(g(X,Y),X)] ≤ D を満たす拘束付き minimax 目的関数 min_g max_h -L(h,g) を設定する。
• g のデータ駆動実現を2つ提供する: フォワード型ニューラルネット privatizer (FNNP) と転置畳み込みニューラルネット privatizer (TCNNP)。
• adversary をニューラルネット分類器としてモデル化し、privatizer に対する損失を最適化し、経験的損失 L_n(θ_p,θ_a) によって学習する。
• 0-1 損失のハード決定では GAP は MAP に基づくプライバシー目的に縮約される。対して log-loss のソフト決定では I(g(X,Y);Y) を最小化することに対応する。

実験結果

リサーチクエスチョン

• RQ1 P(X,Y) を完全には知らずに、データからデータ駆動の privatization メカニズムをデータから学習できるか？
• RQ2 異なる敵対的損失関数（0-1 対 log-loss）下で GAP が達成できるプライバシーと有用性のトレードオフはどのようなものか？
• RQ3 GAN に着想を得たプライバシ機構は、強い adversaries に対して堅牢なプライバシー保証を提供しつつデータの有用性を維持するか？
• RQ4 異なる privatizer アーキテクチャは実データセットでのプライバシー-有用性トレードオフにどう影響するか？

主な発見

• GAP は歪み制約の下で adversary に対するプライバシーとバランスをとる minimax 形式を生み出す。
• 0-1 損失では adversary の最適戦略は MAP となり、GAP は Y を正しく推測する確率を最大化するに縮約される。
• log-loss では最適な adversarial 戦略は事後確率で、GAP は I(g(X,Y);Y) を最小化することに対応する。
• GENKI データセットでは、2 つの privatizer アーキテクチャ (FNNP と TCNNP) が、歪みを増やすと adversary の性別分類精度が低下することを示し、この設定では FNNP がより良いプライバシー保護を達成する。
• privatized 画像は主に目・鼻・口・髭・髪などの顔の特徴の変化を示しており、秘密属性を隠すための標的を絞った撹乱を示唆している。