[論文レビュー] Optimal and Differentially Private Data Acquisition: Central and Local Mechanisms

Alireza Fallah, Ali Makhdoumi+2 more|arXiv (Cornell University)|Jan 10, 2022

Privacy-Preserving Technologies in Data被引用数 9

ひとこと要約

この論文は、中央型および局所型微分プライバシーの下で、プライバシーに敏感なユーザーからの最適なデータ収集をベイジアンメカニズム設計問題として定式化する。非均質なプライバシー損失レベルにおけるミニマックス最適推定器を導出し、真にプライバシー感受度を報告するための効率的なメカニズムを設計し、中央型設定ではO(n log n)の実行時間、局所型設定ではPTASを達成する。

ABSTRACT

We consider a platform's problem of collecting data from privacy sensitive users to estimate an underlying parameter of interest. We formulate this question as a Bayesian-optimal mechanism design problem, in which an individual can share her (verifiable) data in exchange for a monetary reward or services, but at the same time has a (private) heterogeneous privacy cost which we quantify using differential privacy. We consider two popular differential privacy settings for providing privacy guarantees for the users: central and local. In both settings, we establish minimax lower bounds for the estimation error and derive (near) optimal estimators for given heterogeneous privacy loss levels for users. Building on this characterization, we pose the mechanism design problem as the optimal selection of an estimator and payments that will elicit truthful reporting of users' privacy sensitivities. Under a regularity condition on the distribution of privacy sensitivities we develop efficient algorithmic mechanisms to solve this problem in both privacy settings. Our mechanism in the central setting can be implemented in time $\mathcal{O}(n \log n)$ where $n$ is the number of users and our mechanism in the local setting admits a Polynomial Time Approximation Scheme (PTAS).

研究の動機と目的

• プライバシーに敏感なユーザーからのデータ収集のための最適メカニズムを設計し、微分プライバシーの保証を確保すること。
• データ収集プラットフォームにおけるユーザー間の非均質なプライバシーコストの課題に対処すること。
• 中央および局所型プライバシー設定の両方で、ユーザーが報告するプライバシー感受度を真に引き出すための効率的なアルゴリズム的メカニズムを開発すること。
• ベイジアン最適メカニズム設計フレームワークにおいて、推定誤差と総支払いの和を最小化すること。
• 微分プライバシー下での推定誤差に対するミニマックス下界を確立し、近似的最適推定器を導出すること。

提案手法

• プライバシー感受度が非公開である状況において、データ収集問題をベイジアン最適メカニズム設計問題として定式化する。
• 中央型および局所型微分プライバシー設定下での推定誤差に対するミニマックス下界を導出する。
• 中央型設定において、重み付きデータとラプラスノイズを組み合わせた線形推定器を提案し、近似的最適となる。
• 局所型メカニズムでは、各ユーザーがデータをラプラスノイズで事前にプライバシー化し、その後加重平均推定器を用いる。
• 共有される推定誤差の低減利益を反映した、マイアソンのオークション理論に類似した支払い恒等式を用いる。
• 中央型設定ではO(n log n)のアルゴリズムを、局所型設定では多項式時間近似スキーム（PTAS）をそれぞれ開発する。

実験結果

リサーチクエスチョン

• RQ1 プラットフォームは、微分プライバシーを保証しつつ、どのようにしてプライバシーに敏感なユーザーから最適にデータを収集できるか？
• RQ2 中央型および局所型微分プライバシーにおいて、非均質なプライバシー損失レベル下での推定誤差に対するミニマックス下界は何か？
• RQ3 中央および局所型設定の両方で、ユーザーの非公開のプライバシー感受度を真に引き出すためのメカニズムはどのように設計できるか？
• RQ4 中央および局所型微分プライバシーフレームワークにおける最適メカニズムの実装の計算複雑度はどのようになるか？
• RQ5 共有される推定誤差の低減が、データ収集メカニズムにおける支払いおよびインセンティブ設計にどのように影響するか？

主な発見

• 中央型設定では、ユーザーのデータの加重平均とラプラスノイズを組み合わせた線形推定器が、与えられたプライバシー損失レベルに対して近似的最適な推定誤差を達成する。
• 局所型設定では、各ユーザーのデータをラプラスノイズで事前にプライバシー化し、その後集約することで、与えられたプライバシーレベルに対して最適な推定誤差が得られる。
• 最適な支払いメカニズムは、報告されたプライバシー感受度に依存し、ユーザー間で推定誤差が低減される共有利益を組み込む。
• 中央型微分プライバシー設定において、O(n log n)のアルゴリズムがメカニズム設計問題を解く。
• 局所型微分プライバシー設定において、メカニズム設計問題に対して多項式時間近似スキーム（PTAS）が存在する。
• 最小二乗最適推定器が各ケースについて特徴づけられる限り、結果は多次元パrameter推定および線形モデルへと拡張可能である。