[論文レビュー] Privacy Games: Optimal Protection Mechanism Design for Bayesian and Differential Privacy.

Reza Shokri|arXiv (Cornell University)|Feb 14, 2014

Privacy-Preserving Technologies in Data参考文献 30被引用数 4

ひとこと要約

本稿では、差分プライバシーと歪みプライバシーを共同で強制することで、ユーティリティ損失を最小限に抑えつつ、最適な推論攻撃に対して最大限の保護を提供する、適応型のオブスクリュレーション機構を設計している。提案された機構は、機械学習の設計者と攻撃者との間でリーダーフォロワー・ゲームをモデル化することで、最適な推論攻撃に対しても耐性を示す。

ABSTRACT

In this paper, we design user-centric obfuscation mechanisms that impose the minimum utility loss for guaranteeing user's privacy. We optimize utility subject to a joint guarantee of differential privacy (indistinguishability) and distortion privacy (inference error). This double shield of protection limits the information leakage through obfuscation mechanism as well as the posterior inference. We show that the privacy achieved through joint differential-distortion mechanisms against optimal attacks is as large as the maximum privacy that can be achieved by either of these mechanisms separately. Their utility cost is also not larger than what either of the differential or distortion mechanisms imposes. We model the optimization problem as a leader-follower game between the designer of obfuscation mechanism and the potential adversary, and design adaptive mechanisms that anticipate and protect against optimal inference algorithms. Thus, the obfuscation mechanism is optimal against any inference algorithm.

研究の動機と目的

• ユーティリティ損失を最小限に抑えつつ、強力なプライバシーを保証するユーザー中心のオブスクリュレーション機構を設計すること。
• 区別不能性（indistinguishability）と推論誤差（inference error）の両方を満たす二重保護メカニズムとして、差分プライバシー（DP）と歪みプライバシー（DP）を共同で強制すること。
• オブスクリュレーション設計者と攻撃者との相互作用をリーダーフォロワー・ゲームとしてモデル化し、最適な推論攻撃を予測すること。
• 攻撃者の戦略に適応することで、あらゆる推論アルゴリズムに対してもオブスクリュレーション機構が最適であることを保証すること。
• 単体で使用した場合の各機構よりも、プライバシー水準やユーティリティコストが劣らない、統合プライバシー機構の有効性を実証すること。

提案手法

• 機械学習の設計者がリーダー、攻撃者がフォロワーとして機能するリーダーフォロワー・ゲームとして、プライバシー保護問題を形式化する。
• 差分プライバシー（DP）と歪みプライバシー（DP）を組み合わせた統合プライバシー制約を導入し、区別不能性と制限された推論誤差の両方を保証する。
• ゲーム理論的均衡解析を用いて、二重プライバシー制約下でのユーティリティ損失を最小化するようにオブスクリュレーション機構を最適化する。
• 攻撃者が採用する可能性のある最適な推論アルゴリズムを予測し、それに対抗する適応型のオブスクリュレーション戦略を導出する。
• 数学的最適化を用いて、統合制約下でのプライバシーとユーティリティのバランスを最適にするメカニズムを特徴付ける。
• 統合メカニズムが、単体で使用した場合のいずれのメカニズムよりも、プライバシーとユーティリティの性能が劣らないことを証明する。

実験結果

リサーチクエスチョン

• RQ1 どのようにすれば、ユーティリティ損失を最小限に抑えつつ、強力なプライバシー保証を達成するオブスクリュレーション機構を設計できるか？
• RQ2 単一のメカニズムに差分プライバシーと歪みプライバシーを統合する場合、プライバシーとユーティリティのトレードオフはどのように変化するか？
• RQ3 統合プライバシーメカニズムは、個別に使用した場合のメカニズムよりも優れた、あるいは同等のプライバシーとユーティリティ性能を達成できるか？
• RQ4 リーダーフォロワー・ゲームとしての相互作用のモデル化は、最適な推論攻撃に対してオブスクリュレーション機構の耐性をどのように向上させるか？
• RQ5 統合メカニズムは、あらゆる推論アルゴリズムに対して最適であり得るか？また、単体メカニズムと比較してどのように異なるか？

主な発見

• 統合された差分-歪みプライバシー機構は、個別に使用した場合の最良のメカニズムと同等のプライバシー水準を達成しており、プライバシー保証に妥協がない。
• 統合メカニズムのユーティリティコストは、差分プライバシーや歪みプライバシーメカニズムを単体で使用した場合のいずれよりも高くない。
• 提示されたオブスクリュレーション機構は、ゲーム理論的設計により攻撃者の最適戦略を予測・対抗するため、あらゆる推論アルゴリズムに対して最適である。
• 機構の性能は頑健である：攻撃者が最も効果的な推論アルゴリズムを使用しても、強力なプライバシーを維持する。
• 理論的分析により、統合メカニズムがプライバシーとユーティリティのパレート最適なトレードオフを提供することが確認された。
• フレームワークにより、脅威モデルに応じて動的に適応するオブスクリュレーションが可能となり、不確実性下でも最適な保護を保証する。