[論文レビュー] A Framework for Adversarial Streaming via Differential Privacy and Difference Estimators

Idan Attias, Edith Cohen+2 more|arXiv (Cornell University)|Jul 30, 2021

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本稿では、微分プライバシーと差分推定器を組み合わせたハイブリッドフレームワークを提示する。このフレームワークは、フリップ数とツイスト数が有界な関数に対して、最適な空間計算量を達成する敵対的耐性を持つストリーミングアルゴリズムを構築する。このフレームワークにより、(1±α)-精度のF2の追跡が、空間計算量 Õ(√(αλ + μ)/α² · log³·⁵m) で可能となり、先行研究の敵対的ストリーミング手法を統合するという未解決の問題を解決する。

ABSTRACT

Classical streaming algorithms operate under the (not always reasonable) assumption that the input stream is fixed in advance. Recently, there is a growing interest in designing robust streaming algorithms that provide provable guarantees even when the input stream is chosen adaptively as the execution progresses. We propose a new framework for robust streaming that combines techniques from two recently suggested frameworks by Hassidim et al. [NeurIPS 2020] and by Woodruff and Zhou [FOCS 2021]. These recently suggested frameworks rely on very different ideas, each with its own strengths and weaknesses. We combine these two frameworks into a single hybrid framework that obtains the "best of both worlds", thereby solving a question left open by Woodruff and Zhou.

研究の動機と目的

• 微分プライバシーまたは差分推定器のいずれかに依存する既存の敵対的ストリーミングフレームワークの限界を解消すること。
• ハシディムら（NeurIPS 2020）とウッドラフ＆ジョウ（FOCS 2021）の2つの補完的アプローチを統合し、単一の強固なフレームワークを構築すること。
• フリップ数とツイスト数が有界な関数に対して最適な空間計算量を達成すること、特にトゥルンステイルモデルにおけるF2の文脈で達成すること。
• ウッドラフとジョウが提起した、これらの2つのフレームワークを統合するという未解決問題を解決すること。

提案手法

• 敵対的入力下での関数値推定のために、差分推定器（DE）とトラッカー（TDE）を統合する。
• 敵対的入力系列に対して耐性を保つために、複数の強力なトラッカー（EM推定器）を維持するガーディアンモジュールを用いる。
• 推定されたフリップ数とツイスト数に基づいて、更新をしきい値で制限するキャリブレーションされたしきい値機構により、過剰適合を防ぐ。
• 適応的ストリーム更新に対して安定性を保証するため、微分プライバシーを活用する。
• 空間効率の良い差分推定器と強力なトラッキングを組み合わせることで、敵対的条件下でも正確性を維持する。
• 理論的解析により、主要パラメータにおける多項式対数的オーバーヘッドを伴いながらも、(1±α)-精度を高確率で達成することが保証される。

実験結果

リサーチクエスチョン

• RQ1 微分プライバシーと差分推定器の長所を統合した統一フレームワークを、敵対的ストリーミングに適用可能に設計できるか？
• RQ2 トゥルンステイルモデルにおける敵対的耐性を持つF2推定の最適な空間計算量は何か？
• RQ3 フリップ数とツイスト数を用いて、耐性ストリーミングアルゴリズムの空間計算量を制限することは可能か？
• RQ4 空間コストの著しい増加を伴わずに、フリップ数やツイスト数が大きい関数を処理できるようにフレームワークを拡張できるか？
• RQ5 空間効率性と正確性の保証の観点で、ハイブリッドアプローチは既存のフレームワークを上回るか？

主な発見

• フレームワークは、トゥルンステイルストリームにおけるF2推定を(1±α)-精度で達成でき、空間計算量は Õ(√(αλ + μ)/α² · log³·⁵m) である。ここでλは(α′,m)-フリップ数、μは(γ₀,m)-ツイスト数である。
• 空間計算量は多項式対数的要因を除き最適であり、微分プライバシーおよび差分推定器フレームワークの両方を包含する。
• ウッドラフとジョウが提起した未解決問題を解決し、両者の先行研究の長所を統合した包括的解決策を提供する。
• ガーディアンモジュールは、キャリブレーションされたしきい値を用いたKM個の強力なトラッカーを維持することで、高確率（1−1/m）でα-精度を保証する。
• 理論的解析により、攻撃者が以前のすべての出力を観測しても、フレームワークが適応的ストリーム更新に対して耐性を保つことが確認された。
• このフレームワークは一般性を有し、フリップ数とツイスト数が有界な任意の関数に適用可能であり、F2に限らず他のストリーミング関数へも拡張可能である。