[論文レビュー] The Privacy Funnel from the viewpoint of Local Differential Privacy

Milan Lopuhaä-Zwakenberg|arXiv (Cornell University)|Feb 4, 2020

Educational Reforms and Innovations被引用数 4

ひとこと要約

本稿では、プライバシー・ファンネルフレームワーク下でのデータベース洗練において、局所的微分プライバシー（LDP）の代替として局所的情報プライバシー（LIP）を提案する。最適洗練プロトコルを凸最適化問題として定式化することで、著者らはLIPが、特に小さなプライバシー予算の場合に、LDPよりもはるかに高速な計算と、プライバシー目標とのより良い整合性を実現することを示している。一方で、強い最悪ケースのプライバシー保証と、単一および複数属性設定における良好な有効性を維持している。

ABSTRACT

We consider a database $\vec{X} = (X_1,\cdots,X_n)$ containing the data of $n$ users. The data aggregator wants to publicise the database, but wishes to sanitise the dataset to hide sensitive data $S_i$ correlated to $X_i$. This setting is considered in the Privacy Funnel, which uses mutual information as a leakage metric. The downsides to this approach are that mutual information does not give worst-case guarantees, and that finding optimal sanitisation protocols can be computationally prohibitive. We tackle these problems by using differential privacy metrics, and by considering local protocols which operate on one entry at a time. We show that under both the Local Differential Privacy and Local Information Privacy leakage metrics, one can efficiently obtain optimal protocols; however, Local Information Privacy is both more closely aligned to the privacy requirements of the Privacy Funnel scenario, and more efficiently computable. We also consider the scenario where each user has multiple attributes (i.e. $X_i = (X^1_i,\cdots,X^m_i)$), for which we define \emph{Side-channel Resistant Local Information Privacy}, and we give efficient methods to find protocols satisfying this criterion while still offering good utility. Exploratory experiments confirm the validity of these methods.

研究の動機と目的

• 大規模なデータベース公開における古典的プライバシー・ファンネル手法の計算不能性と平均的プライバシーの限界を解決する。
• 相互情報量漏洩を、より強い最悪ケースのプライバシー指標—具体的には局所的微分プライバシー（LDP）と局所的情報プライバシー（LIP）—に置き換えることで、個々の個人に対する強固な保護を保証する。
• LDPおよびLIPの両方の下で最適洗練プロトコルを計算するための効率的でスケーラブルな手法を開発する。特に、各ユーザーのデータを独立して処理するローカルプロトコルに焦点を当てる。
• 属性間の相関による漏洩を防ぐために、複数属性データに対応するためのサイドチャネル耐性局所的情報プライバシー（SRLIP）を導入する。
• さまざまなプライバシー指標とデータ設定における、プライバシー、有効性、計算効率のトレードオフを評価する。

提案手法

• 洗練問題を、条件付き確率分布 Q(y|x) の空間上で凸最適化問題として定式化し、ε-LIP または ε-LDP 条件で制約を課す。
• 線形計画法を用いて ε-LIP の下での最適プロトコルを計算する。LIP制約が LDP 制約よりも頂点数が少ない多面体を定義することを活用する。
• 複数属性データの場合、属性間のサイドチャネル漏洩を防ぐために、すべての属性グループにわたる結合制約を要するより厳しいプライバシー条件である ε-SRLIP を定義する。
• 変換された多面体上の頂点列挙を用いて ε-SRLIP プロトコルを計算する手法を開発するが、LIP よりも計算コストが高くなる。
• 異なるプライバシー予算と属性数を想定した合成データ上での数値実験を通じて、LIP と LDP の性能を比較する。
• ε-LIP が ε/2-LDP を含意することを応用し、LDP プロトコルの有効性下限を導出し、効率的な近似を可能にする。

実験結果

リサーチクエスチョン

• RQ1 プライバシー・ファンネル下での最適データベース洗練において、局所的情報プライバシー（LIP）は、局所的微分プライバシー（LDP）のより効率的で正確な代替手段となり得るか？
• RQ2 特に小さなプライバシー予算の場合に、LIP と LDP の両方における最適プロトコルの計算複雑度はどのように比較されるか？
• RQ3 LIP は、結合分布 pS,X が既知であるプライバシー・ファンネルの文脈で、プライバシー要件とどの程度整合性を示すか？
• RQ4 サイドチャネル耐性局所的情報プライバシー（SRLIP）のようなより強いプライバシー指標は、複数属性設定でも効率的に計算可能であり、良好な有効性を維持できるか？
• RQ5 複数属性データ公開において、SRLIP と LIP もしくは LDP を用いる場合の、プライバシー強度、計算コスト、有効性のトレードオフはいかなるものか？

主な発見

• 与えられたプライバシー予算 ε に対して、ε-LIP の下での最適洗練プロトコルは、ε-LDP の場合に比べて著しく高速に計算可能であり、ε が小さいほどその速度優位性が顕著になる。
• ε-LIP の下での最適有効性は、常に ε-LDP の場合よりも高い。また、相互情報量 I(X;Y) の差は小さく、通常5％未満にとどまるが、LIP はより厳しいプライバシー指標であるにもかかわらず、この差は小さい。
• ε-LIP と ε/2-LDP を比較した場合、LIP プロトコルはより高い有効性を達成し、計算速度もはるかに速く、全テストされた ε 値において有効性の差が小さいまま維持される。
• 複数属性データでは、定理2（ε-LIP用）に基づく手法は、定理3（ε-SRLIP用）に基づく手法の平均476倍速く、後者はより強いプライバシー保証を提供する。
• ε-SRLIP における有効性損失は測定可能ではあるが、許容範囲内であり、サイドチャネル攻撃に対しても堅牢であるため、感受性の高い複数属性設定においての使用が正当化される。
• ε が増加するにつれて、LIP と LDP の性能差は小さくなり、より多くのプロトコルが両条件を満たすようになるため、多面体が類似し、計算時間と有効性も同様の傾向を示すようになる。