[論文レビュー] Separating Adaptive Streaming from Oblivious Streaming

Haim Kaplan, Yishay Mansour+2 more|arXiv (Cornell University)|Jan 26, 2021

Adversarial Robustness in Machine Learning参考文献 25被引用数 6

ひとこと要約

この論文は、敵対的ストリーミングとオブliviousストリーミングの間で初めて分離を確立した。敵対的ストリーミングで必要な空間計算量が多項式であるのに対し、オブliviousストリーミングでは多項式対数空間で十分である問題を構築した。この結果は、適応的データ解析と暗号的プリミティブを用いることで、敵対的ストリーミング分野における中心的未解決問題を解決した。

ABSTRACT

We present a streaming problem for which every adversarially-robust streaming algorithm must use polynomial space, while there exists a classical (oblivious) streaming algorithm that uses only polylogarithmic space. This is the first separation between oblivious streaming and adversarially-robust streaming, and resolves one of the central open questions in adversarial robust streaming.

研究の動機と目的

• 敵対的ストリーミングアルゴリズムがオブliviousストリーミングよりも本質的に多くの空間を必要とするかどうかという中心的未解決問題を解明すること。
• 敵対的ロバスト性が多項式空間を要求するが、オブliviousモデルでは効率的な解法が存在する計算問題を提示すること。
• 適応的データ解析と秘密鍵暗号を用いた還元を用いて、2つのストリーミングモデルの間で明確な分離を確立すること。
• 2つのモデル間のギャップが理論的ものではなく、適応性と状態依存性に起因する根本的制限から生じることを示すこと。

提案手法

• 敵対的ストリーミング問題を、適応的データ解析（ADA）問題に還元するため、暗号化されたデータ上のクエリ応答をエミュレートするように巧みに設計されたストリーミングアルゴリズムを構築した。
• 更新を2段階で処理するストリーミングアルゴリズムを構築した：まず秘密鍵とデータポイントを挿入し、次に暗号化された応答を用いて適応的クエリを処理する。
• 部分的に指数的セキュリティを持つ秘密鍵暗号方式を用いて、意味的セキュリティを確保し、実際のストリームとシミュレートされたストリームの区別が不可能であることを保証した。
• データアナリストとストリーミングアルゴリズムの相互作用をエミュレートする区別アルゴリズムを導入し、区別の成功確率を統計的精度に関連付けた。
• 適応的データ解析における既知の不可能性結果（特に、自然なアルゴリズムではΩ(n²)の適応的クエリを正確に答えられないこと）を還元フレームワーク内で活用した。
• もしSADA2問題に対して多項式対数空間で敵対的ロバストなアルゴリズムが存在すれば、標準的な暗号的仮定の下で既知の下界に矛盾することを証明した。

実験結果

リサーチクエスチョン

• RQ1 敵対的ロバストストリーミングとオブliviousストリーミングのアルゴリズムにおける空間計算量に根本的なギャップがあるか？
• RQ2 敵対的ロバスト性が多項式空間を必要とし、一方でオブliviousアルゴリズムが多項式対数空間で十分であるような問題を設計できるか？
• RQ3 この分離の存在が、適応的データ解析の制約下でのロバストストリーミングアルゴリズム設計における制限を示唆するか？
• RQ4 暗号的プリミティブを用いて、既知の難解性結果からの還元により、2つのモデルを正式に分離できるか？

主な発見

• この論文は、すべての敵対的ロバストストリーミングアルゴリズムがmに関して多項式空間を必要とするストリーミング問題（d,m,κ,γ）-SADA2を構築した。
• それに対して、同じ問題を多項式対数空間と多項式対数時間の更新処理で解けるオブliviousストリーミングアルゴリズムが存在する。
• この分離は、部分的に指数的セキュリティを持つ秘密鍵暗号方式の存在に依存する条件的結果であるが、暗号理論における標準的仮定である。
• 主な結果は適応的データ解析からの還元に起因する：もし敵対的ロバストなアルゴリズムがSADA2問題を多項式対数空間で解けるならば、適応的データ解析における既知の不可能性結果に反する。
• 還元により、ストリーミングアルゴリズムの応答の統計的精度が、下位の暗号方式のセキュリティと適応的に選ばれたクエリの数と密接に結びついていることが示された。
• この結果は、空間計算量の観点から、非線形アルゴリズムでさえも、敵対的ロバスト性を「無料で」達成できないこと、そして状態依存性が記憶要件を根本的に増加させることを示唆している。