[论文解读] A Framework for Adversarial Streaming via Differential Privacy and Difference Estimators

Idan Attias, Edith Cohen+2 more|arXiv (Cornell University)|Jul 30, 2021

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种混合框架，结合差分隐私与差异估计器，构建对抗性鲁棒的流算法，在翻转数和扭曲数有界的函数上实现最优空间复杂度。该框架实现了在转置流中对 F₂ 的 (1±α)-准确跟踪，空间复杂度为 Õ(√(αλ + μ)/α² · log³·⁵m)，解决了关于结合先前对抗性流方法的一个开放问题。

ABSTRACT

Classical streaming algorithms operate under the (not always reasonable) assumption that the input stream is fixed in advance. Recently, there is a growing interest in designing robust streaming algorithms that provide provable guarantees even when the input stream is chosen adaptively as the execution progresses. We propose a new framework for robust streaming that combines techniques from two recently suggested frameworks by Hassidim et al. [NeurIPS 2020] and by Woodruff and Zhou [FOCS 2021]. These recently suggested frameworks rely on very different ideas, each with its own strengths and weaknesses. We combine these two frameworks into a single hybrid framework that obtains the "best of both worlds", thereby solving a question left open by Woodruff and Zhou.

研究动机与目标

• 解决现有对抗性流框架的局限性，这些框架仅依赖差分隐私或差异估计器之一。
• 将两种互补方法——Hassidim 等人（NeurIPS 2020）与 Woodruff 和 Zhou（FOCS 2021）——统一为一个单一的鲁棒框架。
• 实现具有有界翻转数和扭曲数的函数的最优空间复杂度，特别是转置模型中 F₂ 的情况。
• 解决 Woodruff 和 Zhou 提出的关于结合这两种框架的开放问题。

提出的方法

• 该框架整合了差异估计器（DE）与追踪器（TDE），以在对抗性输入下估计函数值。
• 它使用一个守护模块（Guardian），通过维护多个强追踪器（EM 估计器）来确保对对抗性输入序列的鲁棒性。
• 通过基于估计的翻转数和扭曲数设定校准阈值机制，防止过拟合，限制更新次数。
• 该框架利用差分隐私确保在自适应流更新下的稳定性。
• 它结合了空间高效的差异估计器与强追踪能力，以在对抗性条件下保持准确性。
• 理论分析确保在关键参数的多对数开销下，以高概率实现 (1±α)-准确性。

实验结果

研究问题

• RQ1 能否设计一个统一框架，结合差分隐私与差异估计器的优势，用于对抗性流？
• RQ2 在转置模型中，对抗性鲁棒的 F₂ 估计的最优空间复杂度是什么？
• RQ3 如何利用翻转数和扭曲数来界定鲁棒流算法的空间复杂度？
• RQ4 该框架能否扩展以处理具有高翻转数或扭曲数的函数，而不会带来过高的空间开销？
• RQ5 与现有框架相比，该混合方法在空间效率和准确性保证方面是否表现更优？

主要发现

• 该框架在转置流中实现了 (1±α)-准确的 F₂ 估计，空间复杂度为 Õ(√(αλ + μ)/α² · log³·⁵m)，其中 λ 是 (α′,m)-翻转数，μ 是 (γ₀,m)-扭曲数。
• 空间复杂度在多对数因子范围内最优，同时涵盖差分隐私与差异估计器框架。
• 该框架解决了 Woodruff 和 Zhou 提出的开放问题，提供了一个统一的解决方案，结合了两种先前方法的最佳特性。
• 守护模块通过维护 KM 个强追踪器并使用校准阈值，确保以高概率（1−1/m）实现 α-准确性。
• 理论分析证实，该框架在自适应流更新下仍保持鲁棒性，即使攻击者观察到所有先前输出。
• 该框架具有通用性，适用于任意具有有界翻转数和扭曲数的函数，不仅限于 F₂，还可扩展至其他流函数。