[論文レビュー] Hypothesis Testing in the High Privacy Limit

Jiachun Liao, Lalitha Sankar+2 more|arXiv (Cornell University)|Jul 2, 2016

Wireless Communication Security Techniques参考文献 6被引用数 3

ひとこと要約

本稿では、相互情報量に基づくプライバシー制約下での二値仮説検定におけるプライバシー保護型ランダマイジング機構の最適化のため、ユークリッド情報理論的（E-IT）近似を提案する。高プライバシー領域において、最適なメカニズムはアルファベットサイズに依存せず、統計的にまれなソース記号を最も大きく摂動させることで、両方のソース分布に対してプライバシーを維持し、ユーティリティを最大化すると示している。

ABSTRACT

Binary hypothesis testing under the Neyman-Pearson formalism is a statistical inference framework for distinguishing data generated by two different source distributions. Privacy restrictions may require the curator of the data or the data respondents themselves to share data with the test only after applying a randomizing privacy mechanism. Using mutual information as the privacy metric and the relative entropy between the two distributions of the output (postrandomization) source classes as the utility metric (motivated by the Chernoff-Stein Lemma), this work focuses on finding an optimal mechanism that maximizes the chosen utility function while ensuring that the mutual information based leakage for both source distributions is bounded. Focusing on the high privacy regime, an Euclidean information-theoretic (E-IT) approximation to the tradeoff problem is presented. It is shown that the solution to the E-IT approximation is independent of the alphabet size and clarifies that a mutual information based privacy metric preserves the privacy of the source symbols in inverse proportion to their likelihood.

研究の動機と目的

• 両方のソースクラスの相互情報量漏洩を制約しつつ、出力分布間の相対エントロピー（統計的ユーティリティ）を最大化するプライバシー機構の設計。
• 正確なユーティリティ・プライバシー・トレードオフ問題が NP 困難であることを踏まえ、高プライバシー領域における近似を提示。
• E-IT 近似がアルファベットサイズに依存しない閉形式解をもたらすことを示すこと。
• 相互情報量に基づくプライバシー指標が、記号の出現確率の逆数に比例してソース記号を保護する仕組みを明確にすること。

提案手法

• 高プライバシー領域において、相対エントロピーおよび相互情報量関数をユークリッド情報理論（E-IT）を用いて近似する。
• 完全にプライバシーが保たれた近傍のメカニズムの周囲で、ユーティリティおよびプライバシー制約を線形化することで凸最適化問題を導出する。
• 事前分布の平方根と一様重みベクトルを用いた対角行列変換を適用し、近似を単純化する。
• 得られた凸計画問題を解き、ユーティリティと漏洩をバランスさせる摂動ベースのプライバシー機構を導出する。
• 複数のベルヌーイ分布ペアを用いて、さまざまなプライバシー領域における近似の数値的妥当性を検証する。
• 相対エントロピーをユーティリティ指標として用いる動機づけとして、チェルノフ＝シュタインの補題を用いる。

実験結果

リサーチクエスチョン

• RQ1 二値仮説検定におけるユーティリティ・プライバシー・トレードオフは、高プライバシー領域でどのように近似可能か？
• RQ2 相互情報量に基づく漏洩制約下での最適プライバシー機構の構造はいかなるものか？
• RQ3 E-IT 近似は入力アルファベットサイズに依存しない解をもたらすか？
• RQ4 プライバシー機構は、記号の出現確率に応じて摂動をどのように分配するか？
• RQ5 異なるソース分布ペアに対して、E-IT 近似がどの領域で精度を保つか？

主な発見

• E-IT 近似は、二つのソース分布の最小エントロピーの 0.5% 未満に統計的漏洩が収まる高プライバシー領域で、極めて高い精度を示す。
• 両方の分布が一様に近く、または互いに一様から遠く離れているペアでは、漏洩領域が広い範囲で近似が良好に機能する。
• E-IT 近似から得られる最適メカニズムはアルファベットサイズに依存せず、異なるデータタイプにわたる設計を単純化する。
• メカニズムは最も出現確率が低いソース記号に対して最も大きな摂動を加え、推論攻撃に対して脆弱な記号を最も保護する。
• 高プライバシー領域において、E-IT 解の相対エントロピー（ユーティリティ）は、すべてのテストペアについて真の最適解とほぼ同一である。
• 高プライバシー領域では、正の誤差指数を達成可能であり、やや高い標本複雑性を伴うが、中程度のずれの下でも実現可能性を示している。