[論文レビュー] The Value of Privacy: Strategic Data Subjects, Incentive Mechanisms and Fundamental Limits

Weina Wang, Lei Ying+1 more|arXiv (Cornell University)|Mar 22, 2016

Privacy-Preserving Technologies in Data参考文献 5被引用数 5

ひとこと要約

本稿は、データ収集者が個人に対してノイズを含むプライバシー保護型データの報告をインcentivizeするゲーム理論的モデルにおいて、プライバシーの戦略的価値を研究する。$ε$ 単位のプライバシーを確保するために必要な最小支払いについて、漸近的にタイトな境界を導出し、与えられた学習精度の目標を満たすために、設計されたインcentiveメカニズムが近似的に最適なコストを達成できることを示す。

ABSTRACT

We study the value of data privacy in a game-theoretic model of trading private data, where a data collector purchases private data from strategic data subjects (individuals) through an incentive mechanism. The private data of each individual represents her knowledge about an underlying state, which is the information that the data collector desires to learn. Different from most of the existing work on privacy-aware surveys, our model does not assume the data collector to be trustworthy. Then, an individual takes full control of its own data privacy and reports only a privacy-preserving version of her data. In this paper, the value of $ε$ units of privacy is measured by the minimum payment of all nonnegative payment mechanisms, under which an individual's best response at a Nash equilibrium is to report the data with a privacy level of $ε$. The higher $ε$ is, the less private the reported data is. We derive lower and upper bounds on the value of privacy which are asymptotically tight as the number of data subjects becomes large. Specifically, the lower bound assures that it is impossible to use less amount of payment to buy $ε$ units of privacy, and the upper bound is given by an achievable payment mechanism that we designed. Based on these fundamental limits, we further derive lower and upper bounds on the minimum total payment for the data collector to achieve a given learning accuracy target, and show that the total payment of the designed mechanism is at most one individual's payment away from the minimum.

研究の動機と目的

• 個人が自らのデータプライバシーを制御し、ノイズを含むデータを報告する市場における、プライバシーの戦略的トレードオフをモデル化すること。
• ナッシュ均衡下で、特定のプライバシー水準 $ε$ で真実の報告を誘発するために必要な最小支払いとして、$ε$ 単位のプライバシーの価値を測定すること。
• 目標となる学習精度を達成しつつ、合計支払いを最小化するインcentiveメカニズムを設計すること。
• 戦略的プライバシー意思決定を行う大規模な個人集団における、コスト-精度トレードオフの根本的限界を同定すること。
• 提案されたメカニズムの合計支払いが理論的最小値から一人分の支払い以内であることを示すこと。

提案手法

• データ収集者と $N$ 人の戦略的個人の間のゲームとしてデータ収集をモデル化し、各個人が自身のプライベートな信号のプライバシー保護型バージョンを報告する。
• 二項仮説検定フレームワークを用いる：状態 $W$ は二値の確率変数であり、各個人の信号 $S_i$ は確率 $\theta > 0.5$ で $W$ と一致する。
• プライバシー水準 $\epsilon$ を、報告データ $X_i$ のノイズの度合いを測る指標として定義し、$\epsilon$ が大きいほどプライバシーの侵害が大きいことを意味する。
• 非負の支払いメカニズム $\bm{R}^{(N,\epsilon)}$ を導入し、ナッシュ均衡において個人が特定のプライバシー水準 $\epsilon$ を選択するように誘導する。
• チェルノフ情報量を精度指標として用い、バタチャリャリヤの不等式を介して誤差確率と関連付ける。
• 大規模 $N$ の漸近的解析を用いて、プライバシーの価値 $V_{\mathrm{LB}}(\epsilon)$ と $V_{\mathrm{UB}}(\epsilon)$ の漸近的にタイトな下限および上限を導出する。

実験結果

リサーチクエスチョン

• RQ1 ナッシュ均衡下で、特定のプライバシー水準 $\epsilon$ のデータ報告を個人に誘発するために必要な最小支払いは何か？
• RQ2 データ収集者が、所望の学習精度を達成しつつ合計支払いを最小化するインcentiveメカニズムをどのように設計できるか？
• RQ3 個人がプライバシーに関して戦略的である場合、コスト-精度トレードオフの根本的限界は何か？
• RQ4 実用的な支払いメカニズムは、与えられた精度目標に対して理論的最小合計支払いからどれほど近いか？
• RQ5 コストを最小化するために、参加者数とプライバシー水準の最適なバランスは何か？

主な発見

• $ε$ 単位のプライバシーの価値は、$V_{\mathrm{LB}}(\epsilon)$ で下限づけられ、これは個人から特定のプライバシー水準を引き出すために必要な最小支払いを表す。
• プライバシーの価値の上限は、設計された支払いメカニズム $\bm{R}^{(N,\epsilon)}$ によって達成され、$N \to \infty$ の下で漸近的にタイトである。
• 人数 $\widetilde{N}$ とプライバシー水準 $\widetilde{\epsilon}$ を持つ設計されたメカニズムの合計期待支払いは、$\widetilde{N}V_{\mathrm{LB}}(\widetilde{\epsilon}) + O(\tau \ln(1/\tau))$ 以下である。ここで $\tau$ は精度目標を表す。
• このメカニズムの合計支払いは理論的最小値から一人分の支払い以内であり、近似的に最適である。
• 最適な $\widetilde{N}$ と $\widetilde{\epsilon}$ の選択は、プライバシーの品質-価格比を最大化し、コストと精度のバランスを最適化する。
• チェルノフ情報量は、誤差確率の扱いやすいかつ正確な代理指標を提供し、タイトな指数的上界を持つ。