[論文レビュー] Differential privacy for counting queries: can Bayes estimation help uncover the true value?

Maurizio Naldi, Giuseppe D’Acquisto|arXiv (Cornell University)|Jul 1, 2014

Privacy-Preserving Technologies in Data参考文献 7被引用数 8

ひとこと要約

本稿では、プライバシー損失を増加させることなく、微分プライバシー保護されたカウントクエリの精度を向上させるベイズ推定手法を提案する。既知のデータベースサイズと述語確率を活用することで、1回のクエリ応答におけるラプラスノイズを補正し、ナイーブなノイズ推定に比べて顕著に低い平均誤差を達成する。特に、厳格なプライバシー予算（例：ε < 1）下では、ナイーブ手法が線形に誤差が増加するのに対し、ベイズ推定器は誤差の増加が抑制され、顕著な改善効果を示す。

ABSTRACT

Differential privacy is achieved by the introduction of Laplacian noise in the response to a query, establishing a precise trade-off between the level of differential privacy and the accuracy of the database response (via the amount of noise introduced). Multiple queries may improve the accuracy but erode the privacy budget. We examine the case where we submit just a single counting query. We show that even in that case a Bayesian approach may be used to improve the accuracy for the same amount of noise injected, if we know the size of the database and the probability of a positive response to the query.

研究の動機と目的

• 微分プライバシーにおけるカウントクエリの1回のノイズ付き応答において、ベイズ推定が精度を向上させられるかどうかを調査すること。
• データベースサイズと述語確率といった追加の知識が、ナイーブ推定を上回るノイズ応答の精緻化に寄与するかどうかを評価すること。
• ベイズ推定とナイーブ推定の両者において、プライバシー（ε）と精度のトレードオフを評価すること。
• さまざまなプライバシー水準と述語確率において、ベイズ推定がナイーブ推定を上回る確率を定量化すること。
• ラプラスノイズによるカウントクエリの無効応答（[0,n]の範囲外）のリスクを分析すること。

提案手法

• 本稿では、真のカウントをパラメータn（データベースサイズ）とp（述語確率）をもつ二項分布としてモデル化する。
• 共役事前分布（ベータ分布）を用いたベイズ推定器を適用し、ノイズ付き応答に基づいて真のカウントに関する信念を更新する。
• 事後平均は、事前平均とノイズ付き観測値の重み付き平均として計算され、重みは分散の逆数に比例する。
• 本手法では、ユーザーがnとpを既知としているものと仮定しており、これらはクエリに含まれないが、外部から入手可能または推定可能であると想定する。
• 性能評価には、ε、n、pを変化させた10万回のモンテカルロシミュレーションを実施する。
• 2つの指標を用いる：平均誤差（平均絶対偏差）と、ベイズ誤差がナイーブ誤差を下回る確率。

実験結果

リサーチクエスチョン

• RQ1 データベースサイズと述語確率が既知である場合、ベイズ推定は1回の微分プライバシー保護されたカウントクエリにおける誤差を低減できるか？
• RQ2 さまざまなプライバシー水準（ε）において、ベイズ推定器の性能はナイーブなノイズ付き推定器と比べてどうなるか？
• RQ3 ベイズ推定器の改善効果は、分散が最大となるp = 0.5付近で特に顕著になるか？
• RQ4 さまざまなノイズレベル下で、ベイズ推定器がナイーブ推定器を上回る確率は何か？
• RQ5 ラプラスノイズがカウントクエリにおいて無効な応答（[0,n]の範囲外）を生成する確率はどの程度か？

主な発見

• ベイズ推定器は、全テストプライバシー水準（ε）およびデータベースサイズにおいて、ナイーブなノイズ付き推定器よりも一貫して低い平均誤差を達成する。
• 厳格なプライバシー（ε < 1）下では、ナイーブ推定器の平均誤差は1/εに比例して線形に増加するが、ベイズ推定器の誤差は水平に落ち着き、顕著な改善効果を示す。
• ベイズ推定器がナイーブ推定器を上回る確率は、すべてのケースで50％を超え、プライバシー要件が厳しくなる（εが小さくなる）ほど上昇する。
• ベイズ推定器は、二項分布の分散が最大となるp = 0.5で最も悪い性能を示すが、それでも平均誤差の観点ではナイーブ推定器を上回る。
• ラプラスノイズによる無効応答（[0,n]の範囲外）の発生確率は無視できないものであり、εとnに依存し、εが小さくなるほどリスクが増加する。
• ε = 0.1の場合、ナイーブ推定器の平均誤差は固定で10（1/ε = 10）に保たれるが、ベイズ推定器の誤差はpに依存し、p ≈ 0または1で最小値を示す。