[論文レビュー] Optimal User-Centric Data Obfuscation

Reza Shokri|arXiv (Cornell University)|Feb 14, 2014

Privacy-Preserving Technologies in Data被引用数 8

ひとこと要約

本稿は、ユーザ中心のデータ難読化フレームワークを提案し、プライバシー損失を最小限に抑えつつプライバシー保護を最大化するため、微分プライバシーと歪みプライバシーを同時に強制する。難読化者と敵対者との間のリーダーフォロワー型ゲームとしての相互作用をモデル化することで、最適な推論攻撃に対して耐性を持つ適応的メカニズムを設計し、個々のプライバシー手法よりも良好または同等のプライバシー水準を達成する。また、個々のアプローチと比較して、ユーティリティコストの増加なしに実現可能である。

ABSTRACT

In this paper, we design user-centric obfuscation mechanisms that impose the minimum utility loss for guaranteeing user's privacy. We optimize utility subject to a joint guarantee of differential privacy (indistinguishability) and distortion privacy (inference error). This double shield of protection limits the information leakage through obfuscation mechanism as well as the posterior inference. We show that the privacy achieved through joint differential-distortion mechanisms against optimal attacks is as large as the maximum privacy that can be achieved by either of these mechanisms separately. Their utility cost is also not larger than what either of the differential or distortion mechanisms imposes. We model the optimization problem as a leader-follower game between the designer of obfuscation mechanism and the potential adversary, and design adaptive mechanisms that anticipate and protect against optimal inference algorithms. Thus, the obfuscation mechanism is optimal against any inference algorithm.

研究の動機と目的

• ユーザの強いプライバシー保証を確保しつつ、ユーティリティ損失を最小限に抑えるデータ難読化メカニズムを設計すること。
• 微分プライバシーと歪みプライバシーを同時に強制することで、難読化漏洩および事後推論攻撃の両方から保護すること。
• 難読化プロセスを難読化者と敵対者との間のリーダーフォロワー型ゲームとしてモデル化し、最適な推論戦略を予測すること。
• あらゆる推論アルゴリズムに対して最適な適応的難読化メカニズムを開発すること。
• 共同プライバシー機構が、個々の手法よりも優れたプライバシー水準を達成できることを示すこと。この際、ユーティリティコストは個々のアプローチと同等に保たれること。

提案手法

• 難読化者がある時点で行動し、敵対者の最適な推論戦略を予測するリーダーフォロワー型ゲームとして難読化設計を定式化する。
• 微分プライバシー（区別不能性）と歪みプライバシー（推論誤差の上限）の2つのプライバシー制約を統合する。
• 両方のプライバシー制約の下でデータユーティリティを最大化するように難読化メカニズムを最適化する。
• ゲーム理論的均衡を用いて、最適な推論アルゴリズムに対して耐性を持つ難読化戦略を導出する。
• 潜在的な推論パターンに応じて動的に反応する適応的メカニズムを採用し、あらゆる攻撃モデルに対して耐性を確保する。
• メカニズムを通じた情報漏洩と、事後推論の正確性の両方を制限する制約のもとで最適化問題を解く。

実験結果

リサーチクエスチョン

• RQ1 微分プライバシーと歪みプライバシーを組み合わせた共同プライバシー機構は、個別に使用した場合よりも優れた、または同等のプライバシー水準を達成できるか？
• RQ2 微分プライバシーと歪みプライバシーを同時に強制した場合に、得られる最小限のユーティリティ損失は何か？
• RQ3 難読化メカニズムは、最適な推論攻撃に対して耐性を持つようにどのように設計できるか？
• RQ4 プライバシー手法の組み合わせは、個別に使用した場合よりも高いユーティリティコストを引き起こすか？
• RQ5 ゲーム理論的フレームワークを用いて、最適な推論アルゴリズムを予測・対抗できる難読化者を設計できるか？

主な発見

• 共同微分-歪みプライバシー機構は、個別に使用した場合に達成可能な最大プライバシー水準に等しいプライバシー水準を達成する。
• 共同メカニズムのユーティリティコストは、微分プライバシーや歪みプライバシーを個別に使用した場合と同等、またはそれ以下である。
• 提案された難読化メカニズムは、敵対者の最適戦略を予測・対抗できるため、あらゆる推論アルゴリズムに対して最適である。
• ゲーム理論的定式化により、難読化者の戦略は最適な推論攻撃に対しても堅牢性を保つ。
• フレームワークにより、高いユーティリティを維持しながら、強力な二重プライバシー保護を提供する適応的難読化が可能になる。
• 結果から、プライバシー手法を組み合わせることでユーティリティが損なわれず、全体的なプライバシー保証が強化されることを示している。