[論文レビュー] Hypothesis Testing under Maximal Leakage Privacy Constraints

Jiachun Liao, Lalitha Sankar+2 more|arXiv (Cornell University)|Jan 24, 2017

Privacy-Preserving Technologies in Data参考文献 4被引用数 11

ひとこと要約

本稿は、最大漏洩量（ML）をプライバシー指標として、型IIエラー指数をユーティリティ指標として用いることにより、仮説検定におけるプライバシー・ユーティリティのトレードオフを研究する。二値の入力源に対しては、入力記号の完全または部分的な知識を露呈する最適プライバシー機構の閉形式解を導出し、厳密なプライバシー制約下で高いユーティリティを達成するには、特定の入力に対して決定的またはほぼ決定的なマッピングが不可避であることを示している。

ABSTRACT

The problem of publishing privacy-guaranteed data for hypothesis testing is studied using the maximal leakage (ML) as a metric for privacy and the type-II error exponent as the utility metric. The optimal mechanism (random mapping) that maximizes utility for a bounded leakage guarantee is determined for the entire leakage range for binary datasets. For non-binary datasets, approximations in the high privacy and high utility regimes are developed. The results show that, for any desired leakage level, maximizing utility forces the ML privacy mechanism to reveal partial to complete knowledge about a subset of the source alphabet. The results developed on maximizing a convex function over a polytope may also of an independent interest.

研究の動機と目的

• 最大漏洩量（ML）をプライバシー指標として用いることにより、仮説検定におけるプライバシー・ユーティリティのトレードオフ（PUT）を確立すること。
• 最大漏洩量制約が与えられた下で、型IIエラー指数（ユーティリティ）を最大化する最適な確率的マッピング（プライバシー機構）を特定すること。
• 特に、プライバシー制約下で入力記号の部分的または完全な知識がどのように露呈されるかを特徴づける、最適機構の構造を同定すること。
• 高プライバシーおよび高ユーティリティの領域における漸近的近似を用いて、二値から非二値の入力源への結果の拡張を行うこと。
• 最大漏洩量制約によって定義される多面体上での凸関数の最大化から、最適機構が導かれるという事実を示すこと。

提案手法

• 最大漏洩量 $ L(X \to \hat{X}) \leq \ell $ を満たす制約下で、相対エントロピー $ D(\tilde{\mathbf{p}}_1 \| \tilde{\mathbf{p}}_2) $（型IIエラー指数）を最大化するという、制約付き最適化問題としてプライバシー・ユーティリティのトレードオフを定式化する。ここで $ \ell $ は最大漏洩量の予算である。
• 最大漏洩量が無限大順序のシブソン相互情報量に等価であることに着目し、プライバシー制約を扱いやすい形に再定式化する。
• 二値の入力源に対しては、最大漏洩量制約によって定義される多面体上での凸最適化問題を解くことにより、最適機構 $ \mathbf{W}^* $ の閉形式表現を導出する。
• 非二値の入力源に対しては、高次元空間における実行可能領域の複雑さに対処するため、EIT（指数的順序統制変換）近似を適用する。
• 対称性および列の置換不変性を用いて、最適機構の構造を簡略化し、異なる行の数を2つに削減する。
• 目的関数の偏微分行列 $ \boldsymbol{\Psi} $ を用いて、最適行 $ \mathbf{W}^* $ が $ \boldsymbol{\Psi} $ の最大の対角成分に質量を集約することを示し、スパースで構造的な機構が得られることを示す。

実験結果

リサーチクエスチョン

• RQ1 二値データに対して、最大漏洩量プライバシー制約下でユーティリティ（型IIエラー指数）を最大化する最適プライバシー機構は何か？
• RQ2 漏洩量予算 $ \ell $ が変化する際、最適機構の構造はどのように変化するか。特に、決定的マッピングと確率的マッピングの違いは何か？
• RQ3 高プライバシーおよび高ユーティリティの領域において、非二値入力源におけるプライバシー・ユーティリティのトレードオフの漸近的近似は何か？
• RQ4 最適機構は入力の情報をどのように露呈するか。具体的には、特定の入力記号の完全な知識や部分的な知識を露呈するか？
• RQ5 相対エントロピーの凸性と最大漏洩量によって定義される多面体的制約集合との相互作用から、最適機構にどのような構造的性質が生じるか？

主な発見

• 二値の入力源に対しては、最適機構は2つの入力値のうち1つに対しては元の入力記号を確実に露呈する。つまり、1つの入力に対しては決定的で、もう1つに対してはノイズを含むマッピングである。
• 二値データの最適機構は、漏洩量予算 $ \ell $ に明示的に依存する閉形式解を持ち、マッピングの構造が臨界閾値で変化することがある。
• 高プライバシー領域（$ \ell $ が大きい）では、最適機構は一様なランダム化に近づくが、高ユーティリティ領域（$ \ell $ が小さい）では、1つの入力記号に対してますます決定的になる。
• 非二値の入力源に対しては、EIT近似により、$ \mathbf{W}^* $ の各行に非ゼロ要素が最大2つまでしか持たない機構が得られ、最適解は偏微分行列 $ \boldsymbol{\Psi} $ の最大の要素に質量を集約する。
• 二値データの最適機構は、最大漏洩量制約下で可能な限り高いユーティリティ（相対エントロピー）を達成するが、これは $ \ell = \infty $ でない限り、$ D(\mathbf{p}_1 \| \mathbf{p}_2) $ よりも厳密に小さい。
• 二値データの最適機構は、2つの異なる行を保つ列の置換に対して不変であり、出力記号のラベル付けがユーティリティ・プライバシーのトレードオフに影響しないことを示している。