[論文レビュー] Individual Privacy Accounting via a Renyi Filter

Vitaly Feldman, Tijana Zrnic|arXiv (Cornell University)|Aug 25, 2020

Privacy-Preserving Technologies in Data参考文献 31被引用数 21

ひとこと要約

この論文は、各データポイントごとの個人別プライバシー損失を追跡するリーマン微分プライバシー（Rényi differential privacy）フィルタを用いた、パーソナライズドプライバシー会計手法を提案する。これにより、適応的データ解析におけるプライバシーと有効性のトレードオフをより厳密に制御できる。個々の個人がプライバシー予算を超えた場合に動的に除外することで、プライバシー保証を損なわずに、特に最適でないハイパーパrameter設定下でも有効性が向上する。

ABSTRACT

We consider a sequential setting in which a single dataset of individuals is used to perform adaptively-chosen analyses, while ensuring that the differential privacy loss of each participant does not exceed a pre-specified privacy budget. The standard approach to this problem relies on bounding a worst-case estimate of the privacy loss over all individuals and all possible values of their data, for every single analysis. Yet, in many scenarios this approach is overly conservative, especially for "typical" data points which incur little privacy loss by participation in most of the analyses. In this work, we give a method for tighter privacy loss accounting based on the value of a personalized privacy loss estimate for each individual in each analysis. To implement the accounting method we design a filter for Rényi differential privacy. A filter is a tool that ensures that the privacy parameter of a composed sequence of algorithms with adaptively-chosen privacy parameters does not exceed a pre-specified budget. Our filter is simpler and tighter than the known filter for $(ε,δ)$-differential privacy by Rogers et al. We apply our results to the analysis of noisy gradient descent and show that personalized accounting can be practical, easy to implement, and can only make the privacy-utility tradeoff tighter.

研究の動機と目的

• すべての個人に対して最悪ケースのプライバシー損失を仮定する標準的な微分プライバシー合成定理の過剰な保守性を是正すること。
• 適応的解析中に、各個人のデータポイントごとの個別プライバシー損失を推定・追跡することで、よりきついプライバシー会計を実現すること。
• 実用的で実装可能なパーソナライズドプライバシー予算配分法を開発し、最適でないハイパーパrameterを有する現実世界の設定でも有効性を向上させること。
• パーソナライズド会計が、特にモデルハイパーパラメータが最適にチューニングされていない状況下でも、微分プライバシー最適化において顕著な精度向上をもたらすことを示すこと。

提案手法

• 各個人のプライバシー損失を、その個人のデータが異なる2つのデータセットに適用された場合のアルゴリズム出力分布間のリーマン発散（Rényi divergence）として推定する。
• 各個人の累積プライバシー損失が、適応的合成の全過程で事前に指定された予算内に収まるように保証するリーマンプライバシー・フィルタを設計する。
• 推定プライバシー損失が残りの予算を超えたデータポイントを動的に除外し、以降の解析に参加できるのは有効なポイントのみとする。
• 勾配ノルムとノイズ注入に基づいて、各データポイントごとにプライバシー予算を追跡する微分プライバシー確率的勾配降下法（DP-SGD）にこの手法を適用する。
• 従来の(ε,δ)-DPに比べて、特に適応的設定下でよりきつい合成バウンドを可能にするリーマン微分プライバシー（RDP）を用いてフィルタを実装する。
• 各データポイントごとにクリッピングとノイズレベルを調整することで、最適化パイプラインにフィルタを統合し、プライバシーを保持しながらモデルの有効性を最大化する。

実験結果

リサーチクエスチョン

• RQ1 パーソナライズドプライバシー会計は、適応的データ解析における標準的合成定理の過剰な保守性を軽減できるか？
• RQ2 適応的合成定理と整合性を保ちつつ、個人のプライバシー損失をどのように推定・追跡できるか？
• RQ3 ハイパーパラメータが最適でない状況下でも、パーソナライズドプライバシー会計は微分プライバシー学習におけるモデル有効性にどのような影響を与えるか？
• RQ4 リーマンベースのプライバシー・フィルタは、既存の(ε,δ)-微分プライバシー用フィルタよりも単純かつきついものとできるか？
• RQ5 ハイパーパラメータチューニングが現実的でない状況下でも、個別フィルタリングは性能をどの程度向上させるか？

主な発見

• 提案されたリーマンフィルタは、特に適応的設定下で、既存の(ε,δ)-DPフィルターよりも単純かつきついプライバシー会計メカニズムを提供する。
• 微分プライバシーSGDにおいて、個人別プライバシー会計により測定可能な精度向上が得られた：ε=0.3の場合、最適でないクリッピング設定下で精度が84.47%から92.25%に向上した。
• ε=0.5の場合、最適でないクリッピング設定下で精度が92.07%から94.30%に向上し、非最適な環境下でも顕著な向上が確認された。
• 最適でないノイズレベル下でも、ε=0.3の条件下で精度が86.88%から91.20%に向上し、ハイパーパラメータの誤設定に対してもロバストであることが示された。
• 個別フィルタリングの利点は、εが小さい値のとき最も顕著であり、チューニング済みと最適でない設定の間の有効性ギャップが最大になる。
• 本手法は実用的で、既存のコードベースへの変更を最小限に抑えつつ、プライベートトレーニングパイプラインへの統合に成功しており、実装が容易であることが示された。