[論文レビュー] Locally Private Hypothesis Testing

Or Sheffet|arXiv (Cornell University)|Feb 9, 2018

Privacy-Preserving Technologies in Data参考文献 11被引用数 10

ひとこと要約

本稿は、局所的プライバシーモデルにおける微分プライバシー仮説検定を提案し、対称（ランダム化応答）および非対称メカニズムの両方を分析する。局所プライバシー下での最尤推定が可能であることを確立し、非対称メカニズムを用いた同一性検定および独立性検定のよりタイトな標本複雑性バウンドを導出する。また、カイ二乗に基づく検定器を提案し、実験的検証を通じて、非対称メカニズムが対称メカニズムよりも優れた効率性を示すことを示している。

ABSTRACT

We initiate the study of differentially private hypothesis testing in the local-model, under both the standard (symmetric) randomized-response mechanism (Warner, 1965, Kasiviswanathan et al, 2008) and the newer (non-symmetric) mechanisms (Bassily and Smith, 2015, Bassily et al, 2017). First, we study the general framework of mapping each user's type into a signal and show that the problem of finding the maximum-likelihood distribution over the signals is feasible. Then we discuss the randomized-response mechanism and show that, in essence, it maps the null- and alternative-hypotheses onto new sets, an affine translation of the original sets. We then give sample complexity bounds for identity and independence testing under randomized-response. We then move to the newer non-symmetric mechanisms and show that there too the problem of finding the maximum-likelihood distribution is feasible. Under the mechanism of Bassily et al (2007) we give identity and independence testers with better sample complexity than the testers in the symmetric case, and we also propose a $χ^2$-based identity tester which we investigate empirically.

研究の動機と目的

• 各ユーザーが自身のデータに対して独立にプライベートメカニズムを適用する局所モデルにおける微分プライバシー仮説検定を研究すること。
• 対称および非対称設計を含む局所プライバシーメカニズム下での最尤推定の可能性を分析すること。
• 局所微分プライバシー下での同一性および独立性検定の標本複雑性バウンドを導出すること。
• タイプ空間サイズに対して対数的にスケーリングする非対称メカニズムを活用し、既存の対称メカニズムを改善すること。
• 非対称メカニズム下でのカイ二乗に基づく同一性検定器の実験的性能を調査すること。

提案手法

• ユーザーのタイプから信号への確率的マッピングとして局所微分プライバシーを信号伝達スキームとしてモデル化し、ε-微分プライバシーを満たす。
• インデックスに依存しないマッピングとしての対称メカニズム（例：ランダム化応答）を分析し、それらが帰無仮説および対立仮説集合にアフィン変換を引き起こすことを示す。
• パブリックでユーザー固有のマッピングを用いる非対称メカニズム（例：Bassily et al. [BNST17]）を導入し、タイプ空間サイズに対して対数的スケーリングを実現する。
• 対称および非対称メカニズム下での信号分布に対する最尤推定手順を導出する。
• 非対称メカニズム下での同一性検定に適したカイ二乗に基づく検定統計量を提案し、帰無仮説および対立仮説下での分布を実験的に評価する。
• バイナリサーチと実験的棄却確率を用いて標本複雑性を推定し、推定形 $ T^{1.5}/(\alpha^2 \epsilon^2) $ に適合させる。

実験結果

リサーチクエスチョン

• RQ1 局所微分プライバシーメカニズム、特に非対称メカニズム下でも、最尤推定が効率的に計算可能か？
• RQ2 対称メカニズムと非対称メカニズムの両方において、局所プライバシー下での同一性および独立性検定の標本複雑性はどのように比較されるか？
• RQ3 非対称メカニズム下でカイ二乗に基づく検定統計量を同一性検定に効果的に使用できるか？また、帰無仮説と対立仮説を区別できるか？
• RQ4 局所プライバシー検定器が高確率で帰無仮説を棄却するために必要な実験的標本複雑性は何か？
• RQ5 提案されたカイ二乗検定統計量の分布は、帰無仮説下でカイ二乗分布に収束するか、それとも実験的に区別可能か？

主な発見

• 対称および非対称メカニズムの両方において、信号上での最尤分布の計算が可能である。
• 非対称メカニズム（例：[BNST17]）は、対称メカニズムと比較して、同一性および独立性検定器の標本複雑性が優れている。
• 実験的結果から、標本複雑性がおよそ $ T^{1.5}/(\alpha^2 \epsilon^2) $ であることが示唆され、指数は $ c_T \approx 1.49 $、$ c_\alpha \approx -1.93 $、$ c_\epsilon \approx -1.90 $ である。
• 提案されたカイ二乗に基づく同一性検定器は、帰無仮説と対立仮説下で著しく異なる分布を示しており、理論的カイ二乗分布とは一致しないものの、実用的価値がある可能性を示している。
• 非対称メカニズム下での周辺分布推定値は独立でないため、カイ二乗統計量を直接合算することはできず、これは未解決の問題のまま残っている。
• 実験的評価により、検定統計量 $ Q(\boldsymbol{\theta}) = n\sum_x \frac{(\frac{1}{2\eta}\theta(x) - \bar{\theta}(x))^2}{\bar{\theta}(x)} $ が異なる仮説下で明確に区別可能であることが確認され、これが候補の検定統計量としての有効性を支持している。