[論文レビュー] The Power of Synergy in Differential Privacy: Combining a Small Curator with Local Randomizers

Amos Beimel, Aleksandra Korolova+3 more|arXiv (Cornell University)|Dec 18, 2019

Privacy-Preserving Technologies in Data参考文献 51被引用数 5

ひとこと要約

この論文は、少数の信頼できるキュレーターと多数のローカルユーザーを組み合わせたハイブリッド微分プライバシー・モデルを導入・分析し、両者の連携が、個別に用いるモデルでは不可能なタスクを可能にすることを示している。m ≪ n の場合、ハイブリッド・モデルはローカル単独のプロトコルに比べて著しく優れた有効性を達成しており、特に仮説検定において顕著である。また、特定のタスクにおいてキュレーターとローカルエージェント間の相互作用が不可欠であることを示している。

ABSTRACT

Motivated by the desire to bridge the utility gap between local and trusted curator models of differential privacy for practical applications, we initiate the theoretical study of a hybrid model introduced by "Blender" [Avent et al., USENIX Security '17], in which differentially private protocols of n agents that work in the local-model are assisted by a differentially private curator that has access to the data of m additional users. We focus on the regime where m ≪ n and study the new capabilities of this (m,n)-hybrid model. We show that, despite the fact that the hybrid model adds no significant new capabilities for the basic task of simple hypothesis-testing, there are many other tasks (under a wide range of parameters) that can be solved in the hybrid model yet cannot be solved either by the curator or by the local-users separately. Moreover, we exhibit additional tasks where at least one round of interaction between the curator and the local-users is necessary - namely, no hybrid model protocol without such interaction can solve these tasks. Taken together, our results show that the combination of the local model with a small curator can become part of a promising toolkit for designing and implementing differential privacy.

研究の動機と目的

• 信頼できるキュレーターが多数のローカルユーザーを支援するハイブリッド微分プライバシー・モデルの理論的能力を調査すること。
• ローカルモデルと信頼できるキュレーター・モデルの両者の長所を組み合わせることで、両者の有効性のギャップを埋めること。
• ローカルモデルやキュレーター単独モデルでは解けないが、ハイブリッド・モデルでは解けるタスクを特定すること。
• 特定の微分プライバシー・タスクを解くために、キュレーターとローカルエージェント間の相互作用が不可欠であることを示すこと。
• ハイブリッド・モデルがローカル単独アプローチに比べて優れた有効性を達成する条件を定量化すること。

提案手法

• m人のユーザーが信頼できるキュレーターを介して、n人のユーザーがローカル微分プライバシーを介して寄与する(m,n)-ハイブリッド・モデルを提唱する。
• 統計的同一性の度合いを測るために、全 Variation 距離(dTV)とハリゲンジャー距離(dH2)を用いてモデルを分析する。
• 先行研究の既知の境界を適用する：Fact 6.3 はローカルモデルのサンプル複雑度、Fact 6.4 はキュレーター・モデルのサンプル複雑度に適用する。
• 還元論法を用いる：ハイブリッドプロトコルが高確率で成功するならば、ローカルモデルまたはキュレーター・モデルのいずれかが非自明な確率で成功しているはずである。
• 二つのバイアス α のベルヌーイ分布間の仮説検定タスクを構築し、性能を評価する。
• m と n が有界な条件下でハイブリッド・モデルが確率 ≥0.75 で成功する場合、特定のパrameter レジームでは不可能であると示す矛盾を導出する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッド・モデルは、ローカルモデルやキュレーター単独モデルでは不可能なタスクを解けるか？
• RQ2 ローカル・モデルの有効性を著しく向上させるために、最小でどの程度のキュレーター・ユーザー数（m）が必要か？
• RQ3 特定の微分プライバシー・タスクを解くために、キュレーターとローカルエージェント間の相互作用は必須か？
• RQ4 仮説検定におけるサンプル複雑度の観点から、ハイブリッド・モデルの性能はローカル・モデルやキュレーター・モデルと比べてどうか？
• RQ5 どのパrameter レジーム（m, n, ε, α）において、ハイブリッド・モデルがローカル・モデル単独よりも明確に優れていると証明できるか？

主な発見

• バイアス α の二つのベルヌーイ分布間の単純な仮説検定というタスクが存在し、ある絶対定数 c₀, c₁ に対して、m ≤ c₀(1/α² + 1/(εα)) かつ n ≤ c₁/(ε²α²) のとき、(m,n)-ハイブリッド・モデルでは解けない。
• ハイブリッド・モデルは、ローカル単独のプロトコルに比べて優れた有効性を達成しており、特に m が小さいがゼロでない場合、キュレーターとローカルエージェントの連携のおかげである。
• 特定のタスクを解くために、キュレーターとローカルエージェント間の相互作用が不可欠である：このような相互作用がないプロトコルでは、これらのタスクを解くことはできない。
• 不可能性の結果は、ハイブリッド・プロトコルが確率 0.75 以上で成功するならば、ローカル・モデルまたはキュレーター・モデルのいずれかが非自明な確率で成功しているはずであると示すことで導出される。これは、既知のサンプル複雑度の下界と矛盾する。
• この結果は、ハイブリッド・モデルが単なる微小な改善ではなく、個別に用いるモデルでは得られない根本的に新しい能力を可能にすることを示している。
• 分析により、ハイブリッド・モデルはキュレーターがプライバシーを保ちつつ生データを処理できる能力を活用することで、特にプライバシー損失が小さいレジームでは、ローカルプロトコル単独よりも高い正確性を達成できることを示している。