[論文レビュー] Differentially Private Obfuscation Mechanisms for Hiding Probability Distributions.

Yusuke Kawamoto, Takao Murakami|arXiv (Cornell University)|Dec 3, 2018

Privacy-Preserving Technologies in Data被引用数 9

ひとこと要約

本稿では、確率分布に対するローカル微分プライバシーの一種である分布プライバシーを導入し、プライバシーと有効性のトレードオフを向上させるために、ランダムなダミーデータを追加する新たなオブスカリゼーション技術であるタップリング機構を提案する。実験の結果、位置ベースサービスにおけるユーザー属性の保護において、従来のローカル手法を上回る性能を示し、高いサービス品質を維持していることがわかった。

ABSTRACT

We introduce a formal model for the information leakage of probability distributions and define a notion called distribution privacy as the local differential privacy for probability distributions. Roughly, the distribution privacy of a local obfuscation mechanism means that the attacker cannot significantly gain any information on the distribution of the mechanism's input by observing its output. Then we show that existing local mechanisms can hide input distributions in terms of distribution privacy, while deteriorating the utility by adding too much noise. For example, we prove that the Laplace mechanism needs to add a large amount of noise proportionally to the infinite Wasserstein distance between the two distributions we want to make indistinguishable. To improve the tradeoff between distribution privacy and utility, we introduce a local obfuscation mechanism, called a tupling mechanism, that adds random dummy data to the output. Then we apply this mechanism to the protection of user attributes in location based services. By experiments, we demonstrate that the tupling mechanism outperforms popular local mechanisms in terms of attribute obfuscation and service quality.

研究の動機と目的

• 確率分布の情報漏洩を形式的に定式化し、ローカルオブスカリゼーション機構のためのプライバシー保証として分布プライバシーを定義すること。
• 既存のローカルメカニズム（例：ラプラスメカニズム）が、分布プライバシーを達成する際、有効性を損なう要因となる限界を特定すること。
• 出力にランダムなダミーデータを追加することで、分布プライバシーと有効性のトレードオフを改善する新たなオブスカリゼーションメカニズムを設計すること。
• 位置ベースサービスにおけるユーザー属性保護の文脈で、提案されたメカニズムを評価すること。
• 従来のアプローチと比較して、より強いプライバシー保証を提供しながらも、高いサービス品質を維持できることを示すこと。

提案手法

• 確率分布の情報漏洩を測定する形式的モデルを提案し、分布プライバシーをローカル微分プライバシーの亜種として定義する。
• 既存のローカルメカニズム（例：ラプラス）を分析し、それらが分布間の無限大Wasserstein距離に比例したノイズを必要とし、有効性が著しく低下することを示す。
• 出力にランダムなダミーデータを注入することでオブスカリゼーションを強化するタップリング機構を導入する。
• 入力分布がユーザーの移動パターンを表す位置ベースサービスにおいて、タップリング機構を用いてユーザー属性を保護する。
• 実験的評価を通じて、タップリング機構が標準的なローカルメカニズムと比較して、プライバシーとサービス品質の両面で優れていることを検証する。
• 異なるオブスカリゼーションメカニズム下での入力分布の区別不能性を定量化するために、Wasserstein距離を指標として用いる。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、ローカル設定における確率分布のオブスカリゼーションのためのプライバシー保証を形式的に定義できるか？
• RQ2 ラプラスメカニズムなどの既存のローカルオブスカリゼーションメカニズムは、入力分布を保護する際、どれほど有効性を損なうのか？
• RQ3 出力にダミーデータを追加することで、ノイズを低減しつつ分布プライバシーを維持する新たなオブスカリゼーションメカニズムを設計できるか？
• RQ4 実際の応用、例えば位置ベースサービスにおいて、提案されたタップリング機構は標準的なメカニズムと比較して、どのように性能を発揮するか？
• RQ5 オブスカリゼーション出力にダミーデータを追加することは、属性保護の文脈でプライバシーとサービス品質にどのような影響を与えるか？

主な発見

• ラプラスメカニズムは、分布間の無限大Wasserstein距離に比例したノイズを必要とし、著しい有効性の損失を引き起こす。
• タップリング機構は、出力にランダムなダミーデータを追加することで、プライバシーと有効性のトレードオフを成功裏に改善し、過剰なノイズの必要性を低減した。
• 実験結果から、タップリング機構が属性のオブスカリゼーションおよびサービス品質の両面で、一般的に使用されるローカルメカニズムを上回ることが明らかになった。
• 提案されたメカニズムは、位置ベースサービスの正確性や使いやすさを損なわせることなく、より強い分布プライバシーを達成した。
• タップリング機構におけるダミーデータの追加は、真の入力分布を効果的にマスキングし、攻撃者が機微なユーザー属性を推測するのを難しくした。
• 特に、ユーザー移動パターンのように複雑または高次元の入力分布が存在する状況では、このメカニズムが顕著に効果的であることがわかった。