[論文レビュー] Utility-Optimized Local Differential Privacy Mechanisms for Distribution Estimation

Takao Murakami, Yusuke Kawamoto|arXiv (Cornell University)|Jul 30, 2018

Privacy-Preserving Technologies in Data参考文献 57被引用数 16

ひとこと要約

本稿では、感応性の有無に応じてデータを異なる処理を行うことで、局所的微分プライバシーにおけるデータの有用性を向上させる、ユーティリティ最適化型局所的微分プライバシー（ULDP）という新規フレームワークを提案する。感応性の高い値には最小限のノイズを適用し、感応性の低いデータは高い忠実度で保持することで、ULDPメカニズム（例：ユーティリティ最適化型ランダム化反応、意味的タグを用いたパーソナライズドULDP）は、標準的なLDPよりも顕著に高い精度を達成し、感応性の低いデータが大多数を占める状況では、非プライベートな性能に近づく。

ABSTRACT

LDP (Local Differential Privacy) has been widely studied to estimate statistics of personal data (e.g., distribution underlying the data) while protecting users' privacy. Although LDP does not require a trusted third party, it regards all personal data equally sensitive, which causes excessive obfuscation hence the loss of utility. In this paper, we introduce the notion of ULDP (Utility-optimized LDP), which provides a privacy guarantee equivalent to LDP only for sensitive data. We first consider the setting where all users use the same obfuscation mechanism, and propose two mechanisms providing ULDP: utility-optimized randomized response and utility-optimized RAPPOR. We then consider the setting where the distinction between sensitive and non-sensitive data can be different from user to user. For this setting, we propose a personalized ULDP mechanism with semantic tags to estimate the distribution of personal data with high utility while keeping secret what is sensitive for each user. We show theoretically and experimentally that our mechanisms provide much higher utility than the existing LDP mechanisms when there are a lot of non-sensitive data. We also show that when most of the data are non-sensitive, our mechanisms even provide almost the same utility as non-private mechanisms in the low privacy regime.

研究の動機と目的

• 標準的な局所的微分プライバシー（LDP）は、感応性の有無にかかわらずすべてのデータに均一なノイズを適用するため、過剰な有用性の損失を引き起こすという非効率性に対処すること。
• 感応性の高いデータに対してのみLDPと同等のプライバシー保証を提供するプライバシー保護メカニズムを設計し、感応性の低いデータの有用性を向上させること。
• ユーザーが自らの感応性の高いデータを定義できるパーソナライズドオブスカレーションを可能にし、個人間の多様なプライバシー志向に対応すること。
• 理論的および実験的に、ULDPメカニズムが、特に感応性の低いデータが大多数を占める状況において、既存のLDPメカニズムよりも顕著に高い有用性を達成することを示すこと。

提案手法

• 感応性の高い値を特別な記号（例：⊥）にマッピングし、感応性の低い値を確率的マッピングで処理することで、感応性の高いデータにのみ微分プライバシーの保証を適用するLDPの緩和版としてULDPを提唱する。
• 感応性の高い回答に対しては決定論的に「はい」と報告し、感応性の低いデータに対しては確率的に処理することで、推定精度を向上させる、ユーティリティ最適化型ランダム化反応メカニズムを導入する。
• RAPPORを拡張し、感応性の高い値のみを選択的にオブスカレーションし、感応性の低いデータには最小限のノイズを適用する、ユーティリティ最適化型RAPPORメカニズムを開発する。
• 意味的タグを用いてユーザーが自らの感応性の高いデータを定義できるパーソナライズドULDPメカニズムを設計し、ユーザーごとのオブスカレーション戦略を可能にする。
• 2段階の推定プロセスを採用する：まず中間値（⊥を含む）の分布を推定し、その後、既知または推定された条件付き分布を組み合わせて真のデータ分布を回復する。
• ユーティリティの指標として$l_1$損失を用い、推定誤差の理論的境界を導出する。その結果、誤差はメカニズムのノイズと条件付き分布の推定精度の両方に依存することが示された。

実験結果

リサーチクエスチョン

• RQ1 感応性の高いデータと低いデータを異なる処理で扱うことで、より高い有用性を実現する局所的微分プライバシーのメカニズムを設計できるか？
• RQ2 感応性の高いデータに対してLDPと同等のプライバシー保証を維持しつつ、感応性の低いデータへのノイズを最小限に抑える方法は何か？
• RQ3 ユーザーが異なるデータ値に対して異なるプライバシー志向を持つ場合、パーソナライズドオブスカレーションメカニズムは有用性を向上させられるか？
• RQ4 推定精度という観点から、ULDPメカニズムは標準的なLDPメカニズムよりも理論的および実験的にどの程度の性能向上を達成できるか？
• RQ5 低プライバシー領域（例：ε = 0.1）において、ULDPメカニズムは非プライベートなメカニズムの有用性にどの程度近づけるか？

主な発見

• 感応性の低いデータが大多数を占める状況では、感応性の低い値へのノイズが削減されるため、ULDPメカニズムは標準的なLDPメカニズムよりも顕著に高い有用性を達成する。
• 低プライバシー領域（例：ε = 0.1）では、感応性の低いデータが大多数を占める場合、ULDPメカニズムは非プライベートなメカニズムとほぼ同等の推定精度を達成する。
• 意味的タグを用いたパーソナライズドULDPメカニズムにより、ユーザーごとのプライバシー志向を反映でき、多様なデータ環境下での有用性が向上する。
• 理論的分析により、ULDPの$l_1$推定誤差は、中間分布の推定誤差と感応性の高い値の条件付き分布の推定誤差の和で上限が与えられることが示された。
• 合成データおよび実世界のデータセット（例：US国勢調査）を用いた実験的評価により、ULDPメカニズムが平均二乗誤差（MSE）の観点で標準的なLDPメカニズムを上回ることが確認された。特に感応性の高い値の数が減少するほど顕著に向上する。
• 感応性の低いデータの割合が高い場合に、ULDPの有用性向上効果が最も顕著に現れ、データの非一様性を効果的に活用して有用性を向上させていることが示された。