[論文レビュー] An Improved Private Mechanism for Small Databases

Aleksandar Nikolov|arXiv (Cornell University)|May 1, 2015

Privacy-Preserving Technologies in Data参考文献 24被引用数 5

ひとこと要約

この論文は、小さなデータベースにおける線形クエリに応答するための新しい微分プライバシー機構を提示する。先行研究と比較して、競合比が |Q| に依存せず、log n および log |U| のみに依存するように改善されている。凸双対性と制限逆可能性を用いて最適化されたノイズ分布を導入し、射影機構における誤差を低減することで、データベースサイズに比べてクエリ数が多いワークロードにおいて、利用可能性を著しく向上させている。

ABSTRACT

We study the problem of answering a workload of linear queries $\mathcal{Q}$, on a database of size at most $n = o(|\mathcal{Q}|)$ drawn from a universe $\mathcal{U}$ under the constraint of (approximate) differential privacy. Nikolov, Talwar, and Zhang~\cite{NTZ} proposed an efficient mechanism that, for any given $\mathcal{Q}$ and $n$, answers the queries with average error that is at most a factor polynomial in $\log |\mathcal{Q}|$ and $\log |\mathcal{U}|$ worse than the best possible. Here we improve on this guarantee and give a mechanism whose competitiveness ratio is at most polynomial in $\log n$ and $\log |\mathcal{U}|$, and has no dependence on $|\mathcal{Q}|$. Our mechanism is based on the projection mechanism of Nikolov, Talwar, and Zhang, but in place of an ad-hoc noise distribution, we use a distribution which is in a sense optimal for the projection mechanism, and analyze it using convex duality and the restricted invertibility principle.

研究の動機と目的

• 大きな数の線形クエリを小さなデータベースに対して応答する際の課題に取り組み、微分プライバシーを維持するとともに平均誤差を最小限に抑えること。
• 従来の機構が |Q| に依存していた競合比を改善し、この依存関係を排除すること。
• 凸双対性フレームワーク内で最適な期待誤差を最小化する射影機構のためのノイズ分布を設計すること。
• 任意のワークロードおよびデータベースサイズに対して、誤差の境界が log n および log |U| に対して多項式スケーリングされるようにすること。

提案手法

• この機構はニコロフら（2013）の射影機構に基づいているが、手動で設計されたノイズ分布の代わりに、凸双対性および制限逆可能性の原則から導出されたものに置き換えられている。
• 最適な共分散行列 Σ は、ε-微分プライバシーとトレース正規化の制約のもとでの凸最適化問題の解として定式化される。
• 誤差解析では、行列 AQA^T のトレースノルムと特異値の k 番目の調和平均を用い、補題 4.3.1 を介して制限逆可能性の原則を活用している。
• クエリ行列の固有分解に基づく2ケース分析を適用し、射影演算子を用いて主要な固有値を分離し、下界を適用している。
• 凸最適化問題の Σ を解くために楕円体法が用いられ、多項式時間での計算が保証されている。
• 最終的な誤差境界は、補題 3.0.2 のプライバシー保証と、定理 4.2 および定理 4.3 の固有値の下界を組み合わせることで導出されている。

実験結果

リサーチクエスチョン

• RQ1 小さなデータベースのためのプライベート機構の競合比を、|Q| に依存しないように改善できるか？
• RQ2 微分プライバシーのもとで期待誤差を最小化する、射影機構の最適なノイズ分布が存在するか？
• RQ3 凸双対性と制限逆可能性を用いて、線形クエリワークロードの誤差境界をより厳密に導出できるか？
• RQ4 任意のワークロードおよびデータベースサイズに対して、この機構の誤差が |Q| ではなく log n および log |U| のみに依存するか？

主な発見

• 提案された機構は、最適に達成可能な誤差に対して、log n および log |U| の多項式対数的要因以内の平均誤差に抑えられ、|Q| に依存しない。
• 競合比は log n および log |U| の多項式で有界であり、従来の |Q| に多項式対数的依存性を示していたものと比較して顕著に改善されている。
• 最適な共分散行列 Σ を計算するために凸最適化フレームワークが用いられ、(ε,δ)-微分プライバシーが保証されている。
• 誤差境界は、クエリ行列の固有構造に基づく2ケースのスペクトル解析を通じて導出されており、制限逆可能性を用いて、宇宙の部分集合における最小特異値の下界を設定している。
• 機構は |U|、|Q|、n の多項式時間で実行可能であり、実用的導入に適している。
• 本研究は、|Q| ≫ n となるワークロードにおいて、微分プライバシークエリ応答のための新たなベンチマークを確立している。