[論文レビュー] Toward Evaluating Re-identification Risks in the Local Privacy Model

Takao Murakami, Kenta Takahashi|arXiv (Cornell University)|Oct 16, 2020

Privacy-Preserving Technologies in Data参考文献 77被引用数 10

ひとこと要約

本稿では、ローカル微分プライバシー（LDP）モデルにおける再識別リスクを評価するための新しい指標である PIE（Personal Information Entropy）を導入する。PIE は、偽装されたデータからユーザーを再識別しようとする攻撃者のベイズ誤り確率を下界で制約し、LDPとは異なり過剰なノイズと有用性の損失を引き起こさない高効用の分布推定を可能にするとともに、強い再識別抵抗性を保証する。

ABSTRACT

LDP (Local Differential Privacy) has recently attracted much attention as a metric of data privacy that prevents the inference of personal data from obfuscated data in the local model. However, there are scenarios in which the adversary wants to perform re-identification attacks to link the obfuscated data to users in this model. LDP can cause excessive obfuscation and destroy the utility in these scenarios because it is not designed to directly prevent re-identification. In this paper, we propose a measure of re-identification risks, which we call PIE (Personal Information Entropy). The PIE is designed so that it directly prevents re-identification attacks in the local model. It lower-bounds the lowest possible re-identification error probability (i.e., Bayes error probability) of the adversary. We analyze the relation between LDP and the PIE, and analyze the PIE and utility in distribution estimation for two obfuscation mechanisms providing LDP. Through experiments, we show that when we consider re-identification as a privacy risk, LDP can cause excessive obfuscation and destroy the utility. Then we show that the PIE can be used to guarantee low re-identification risks for the local obfuscation mechanisms while keeping high utility.

研究の動機と目的

• ローカルプライバシーモデルにおける再識別リスクを定量化する形式的指標の欠如、特に LDP を用いる場合の課題を解決すること。
• 攻撃者の背景知識に依存しない再識別誤り確率の最小値を直接制約する新しいプライバシー指標である PIE（Personal Information Entropy）を提案すること。
• 再識別が主な懸念事項である場合、LDP が過剰な偽装と有用性の損失を引き起こす可能性があることを示すこと。
• PIE プライバシーが、強い再識別抵抗性を保証しつつ、高効用の分布推定を可能にすることを示すこと。
• RR や GLH などの LDP メカニズムにおけるプライバシー、有用性、再識別リスクの理論的および実験的トレードオフを分析すること。

提案手法

• PIE を、ユーザーとその偽装された個人データの間の相互情報量として定義し、任意の再識別攻撃におけるベイズ誤り確率の下界を提供する。
• PIE プライバシーを平均的状況下でのプライバシー指標として提案し、攻撃者の背景知識にかかわらず PIE を上界で制約する。
• PIE を、ランダムレスポンス（RR）とガウス位置ハッシュング（GLH）の2つの LDP メカニズムに適用する。
• しきい値処理を用いた実験的推定（emp+thr）を導入し、分布推定タスクにおける有用性を向上させる。
• プライバシー（PIE を通じて）と有用性（l₂ 損失を用いて）のトレードオフを、さまざまなプライバシーパラメータ（例：ε、g）の下で分析する。
• 大きな α における Rényi 発散を用いて、PIE プライバシーを最も悪い状況下の概念へ拡張し、今後の研究方向性を示唆する。

実験結果

リサーチクエスチョン

• RQ1 攻撃者の背景知識に依存しない、ローカルモデルにおける再識別リスクを直接評価できるプライバシー指標を開発できるか？
• RQ2 再識別が主な脅威である場合、LDP が不変性に注力することで、有用性にどのような影響を与えるか？
• RQ3 PIE を用いることで、再識別誤り確率を低く保ちつつ、分布推定における高有用性を達成できるか？
• RQ4 α-相互情報量を用いて最悪ケースのプライバシーに拡張した場合、PIE の理論的性質はどのように変化するか？
• RQ5 偽装メカニズムのパラメータ（例：GLH の g、RR の ε）が、PIE 下でのプライバシーと有用性のバランスに与える影響は何か？

主な発見

• ε=10 の LDP では、上位20件のPOI分布推定において相対誤差が1.05に達し、最小限のプライバシー保証にもかかわらず深刻な有用性の損失が生じている。
• RR メカニズムでは ε>12 が必要であり、LDP 下で l₂ 損失が 10⁻⁶ に達するが、それでも強力なプライバシーを提供しない。
• PIE プライバシー下では、同じタスクで再識別誤り確率を 0.92 以上に保証しつつ、相対誤差はわずか 0.10 にまで低下する。
• GLH メカニズムでは g の値を大きくすることで l₂ 損失が減少し、有用性が向上し、理論的期待と整合的である。
• ランダム順列による仮名化のみでは高い再識別誤り確率を保証できるが、平均的形でも微分プライバシーを満たさない。
• PIE 指標により実用的なトレードオフが可能である：強力な再識別抵抗性（βᵤ|ₛ > 0.92）と高有用性を両立可能である。一方、LDP は高 ε 値でも有用性を維持できない。