[論文レビュー] On Maximal Correlation, Mutual Information and Data Privacy

Shahab Asoodeh, Fady Alajaji+1 more|arXiv (Cornell University)|Oct 8, 2015

Privacy-Preserving Technologies in Data参考文献 16被引用数 6

ひとこと要約

本稿は、プライバシー制約における相互情報量の代わりに最大相関を用いることで、データプライバシーを再定義し、新たなレート-プライバシー・トレードオフ関数を提案する。最大相関プライバシー下での推定有効性（MMSE）の下界を確立し、最小で達成可能な誤差が、感覚的変数と公開データ間の最大相関に依存することを示す。

ABSTRACT

The rate-privacy function is defined in \cite{Asoodeh} as a tradeoff between privacy and utility in a distributed private data system in which both privacy and utility are measured using mutual information. Here, we use maximal correlation in lieu of mutual information in the privacy constraint. We first obtain some general properties and bounds for maximal correlation and then modify the rate-privacy function to account for the privacy-constrained estimation problem. We find a bound for the utility in this problem when the maximal correlation privacy is set to some threshold $ε>0$ and construct an explicit privacy scheme which achieves this bound.

研究の動機と目的

• 相互情報量をプライバシー指標として用いる際の限界を是正するため、より頑健な代替指標として最大相関を導入すること。
• プライバシー制約における相互情報量の代わりに最大相関を用いて、レート-プライバシー・トレードオフ問題を再定式化すること。
• 感覚的データXと公開データZの間の最大相関がεで制限される場合に、推定有効性（MMSE）の達成可能な下界を導出すること。
• 導出された有効性下界を達成する明示的なプライバシー保護機構（ノイズ付き変換）を構築すること。

提案手法

• 最大相関ρₘ(X;Z)を、XおよびZのすべてのゼロ平均・二階可積分関数に対する線形相関の上界として定義する。
• 条件付き期待値作用素T_Xを用いて、ρₘ(X;Z)を作用素の2番目に大きな特異値として特徴付ける。
• Z = X + λN（NはX,Yと独立でα安定分布に従う）としてモデル化されたプライバシー・フィルタを提案し、ρₘ(X;Z) ≤ εを満たすようにする。
• プライバシー閾値εを達成する最適ノイズゲインλ*ₜₕₑₜₐ = (1/ε² - 1)^{1/α}を導出する。
• ZからのYの最小平均二乗誤差（MMSE）の下界を確立する：mmse_ε(Y) ≥ (1 - ϱ²_ε(X;Y)) · var(Y)，ここでϱ_ε(X;Y) = ρₘ(Y; X + λ*ₜₕₑₜₐN)である。
• 指定されたチャネル・モデル下で、この下界がタイトであることを示し、プライバシーが厳しくなる（εが小さくなる）ほど有効性が低下することを示す。

実験結果

リサーチクエスチョン

• RQ1 プライバシー制約において相互情報量を最大相関に置き換えると、有効性-プライバシー・トレードオフにどのような影響を与えるか？
• RQ2 感覚的データXと公開データZの間の最大相関がεで制限される場合、推定有効性（MMSE）の根本的な下界は何か？
• RQ3 最大相関制約下で、この下界を達成する明示的なプライバシー機構を構築できるか？
• RQ4 最適ノイズゲインλ*ₜₕₑₜₐは、プライバシー閾値εとノイズ分布の安定性パラメータαにどのように依存するか？
• RQ5 プライバシー制約下で、Yの推定精度と最大相関ρₘ(Y;Z)の間にはどのような関係があるか？

主な発見

• 本稿は、ρₘ(X;Z) ≤ εの下で、ZからのYの推定に際して最小で達成可能なMMSEの下界を導出し、mmse_ε(Y) ≥ (1 - ϱ²_ε(X;Y)) · var(Y)として与える。
• α安定ノイズを用いたZ = X + λNチャネル・モデル下で、この下界はタイトであり、λ*ₜₕₑₜₐ = (1/ε² - 1)^{1/α}がプライバシー制約を達成する。
• 関数ϱ_ε(X;Y) = ρₘ(Y; X + λ*ₜₕₑₜₐN)は、プライバシー制約下でYとZの間に達成可能な最大相関を定量化する。
• 下界がゼロになるのは、ϱ_ε(X;Y) = 1のときであり、これはρₘ(X;Y) = 1、すなわちXとYが完全に相関している場合にのみ成立する。
• ρₘ(X;Y) < 1の場合、下界はゼロから離れているため、プライバシー制約下では非自明な推定誤差が避けられない。
• 有効性下界はεに関して非増加であるため、プライバシーが厳しくなる（εが小さくなる）ほど推定誤差が増大し、根本的なトレードオフが示される。