[論文レビュー] Impossibility of Differentially Private Universally Optimal Mechanisms

Hai Brenner, Kobbi Nissim|arXiv (Cornell University)|Aug 2, 2010

Privacy-Preserving Technologies in Data参考文献 7被引用数 5

ひとこと要約

本稿は、一般化されたカウントクエリ（合計クエリ、ヒストограм、複数のカウントクエリを含む）に対して、ベイジアンおよびリスク回避的ユーティリティモデルの下で、普遍的に最適な微分プライバシー機構が存在しないことを証明している。主な結果は、構造的制約が複数のクエリタイプを含むプライバシー保護機構に及ぼす影響により、普遍的最適性が単一のカウントクエリの場合にのみ可能であることを示す特徴付けである。

ABSTRACT

The notion of a universally utility-maximizing privacy mechanism was recently introduced by Ghosh, Roughgarden, and Sundararajan [STOC 2009]. These are mechanisms that guarantee optimal utility to a large class of information consumers, simultaneously, while preserving Differential Privacy [Dwork, McSherry, Nissim, and Smith, TCC 2006]. Ghosh et al. have demonstrated, quite surprisingly, a case where such a universally-optimal differentially-private mechanisms exists, when the information consumers are Bayesian. This result was recently extended by Gupte and Sundararajan [PODS 2010] to risk-averse consumers. Both positive results deal with mechanisms (approximately) computing a single count query (i.e., the number of individuals satisfying a specific property in a given population), and the starting point of our work is a trial at extending these results to similar settings, such as sum queries with non-binary individual values, histograms, and two (or more) count queries. We show, however, that universally-optimal mechanisms do not exist for all these queries, both for Bayesian and risk-averse consumers. For the Bayesian case, we go further, and give a characterization of those functions that admit universally-optimal mechanisms, showing that a universally-optimal mechanism exists, essentially, only for a (single) count query. At the heart of our proof is a representation of a query function $f$ by its privacy constraint graph $G_f$ whose edges correspond to values resulting by applying $f$ to neighboring databases.

研究の動機と目的

• 単一のカウントクエリを越える一般化クエリタイプに対して、普遍的に最適な微分プライバシー機構を構築できるかどうかを調査すること。
• カウントクエリの普遍的最適機構に関する先行の肯定的結果を、合計クエリ、ヒストグラム、およびカウントクエリのバンドルといったより複雑なクエリに拡張すること。
• ベイジアンユーティリティモデルにおいて、普遍的に最適な機構が存在する条件を特徴付けること。
• 微分プライバシーとユーティリティ最大化から導かれる構造的制約を用いて、すべての基本的クエリタイプを除くすべてのクエリタイプに対して、このような機構が不可能であることを示すこと。

提案手法

• 著者たちは、クエリ関数 $ f $ に対して、隣接するデータベースからの値をエッジとして持つプライバシー制約グラフ $ G_f $ を定義する。
• 特定の事前分布と損失関数を持つ合理的な情報消費者から導かれる制約を用いて、普遍的に最適な機構の構造を分析する。
• 隣接するクエリ出力の三つ組みの上での一様事前分布を持つ複数の消費者を用い、機構の遷移行列における重複する列分割制約を導出する。
• 得られた機構は、微分プライバシーと行確率行列の制約から導かれる係数 $ c_i $ とスケーリング係数 $ \alpha $ を含む特定の対称的構造を持つ必要があることを示す。
• 機構の実現可能性は、特に $ c_0 = (1 - (k-1)\alpha)/(\alpha + 1) $ の非負性に依存し、これは $ k $ 個の隣接するデータベースに対して $ \alpha \leq 1/(k-1) $ を要する。
• より複雑な消費者の事前分布を段階的に考慮することで、すべての誘導された制約を同時に満たさなければならない普遍的機構の構造を導出し、$ k > 3 $ の場合に矛盾が生じることを示す。

実験結果

リサーチクエスチョン

• RQ1 非二値の値を持つ合計クエリに対して、単一のカウントクエリを越えて普遍的に最適な微分プライバシー機構を構築できるか？
• RQ2 ベイジアンユーティリティモデルにおいて、ヒストограмクエリに対して普遍的最適性は可能か？
• RQ3 2つ以上のカウントクエリのバンドルに対して、普遍的に最適な機構を設計できるか？
• RQ4 クエリ関数 $ f $ にどのような構造的条件が存在すれば、普遍的に最適な微分プライバシー機構が存在するか？
• RQ5 どのクエリタイプに対して、プライバシー制約グラフ $ G_f $ が実現可能な普遍的機構を許容するか？

主な発見

• 非二値の値を持つ合計クエリに対しても、線形であっても、普遍的に最適な微分プライバシー機構は存在しない。
• この不可能性は、ベイジアンおよびリスク回避的消費者モデルの両方において、ヒストグラムクエリおよび複数のカウントクエリのバンドルに対しても拡張される。
• 普遍的に最適な機構が存在するのは、プライバシー制約グラフ $ G_f $ がサイクルであるか、最大次数 $ \Delta(G_f) \leq 2 $ である場合に限られ、しかもその場合でも厳密な条件下でのみ可能である。
• クエリ関数 $ f $ に対して $ k > 3 $ 個の隣接するデータベースがある場合、必要な機構係数は、すべての消費者が同時に満たせるようにはならない。特に $ \alpha \leq 1/(k-1) $ が必要であり、これは満たせない。
• 普遍的機構の唯一の実現可能な解は $ c_0 \geq 0 $ を要するが、$ k > 3 $ の場合にこれは成立せず、その結果、このような場合の不可能性が証明される。
• 本稿は完全な特徴付けを確立している：構造的不適合性が複数の消費者の事前分布下で機構の列構造に及ぼす影響により、普遍的に最適な機構は単一のカウントクエリの場合にのみ存在する。