[论文解读] Climbing a shaky ladder: Better adaptive risk estimation

Moritz Hardt|arXiv (Cornell University)|Jun 8, 2017

Privacy-Preserving Technologies in Data参考文献 5被引用 5

一句话总结

本文提出 Shaky Ladder，一种用于机器学习基准中自适应风险估计的 Ladder 算法随机化变体。通过利用差分隐私技术——特别是具有改进泛化界的优势向量法——其在排行榜上的误差达到 $ O(1/n^{0.4}) $，优于先前的 $ O(1/n^{1/3}) $ 速率，并揭示了与一般自适应估计的深层联系，表明若该领域无突破性进展，进一步提升将受限。

ABSTRACT

We revisit the \emph{leaderboard problem} introduced by Blum and Hardt (2015) in an effort to reduce overfitting in machine learning benchmarks. We show that a randomized version of their Ladder algorithm achieves leaderboard error O(1/n^{0.4}) compared with the previous best rate of O(1/n^{1/3}). Short of proving that our algorithm is optimal, we point out a major obstacle toward further progress. Specifically, any improvement to our upper bound would lead to asymptotic improvements in the general adaptive estimation setting as have remained elusive in recent years. This connection also directly leads to lower bounds for specific classes of algorithms. In particular, we exhibit a new attack on the leaderboard algorithm that both theoretically and empirically distinguishes between our algorithm and previous leaderboard algorithms.

研究动机与目标

• 解决因自适应使用验证集而导致的机器学习基准中的过拟合问题。
• 在排行榜风格的自适应风险估计中，将最先进误差率提升至超越原始 Ladder 算法的 $ O(1/n^{1/3}) $ 边界。
• 建立排行榜误差与一般自适应估计之间的正式联系，表明在一方取得改进意味着另一方亦可取得改进。
• 通过理论与实证分析，证明新算法对对抗性查询（尤其是多数攻击）的鲁棒性。

提出的方法

• 设计 Ladder 算法的随机化变体，称为 Shaky Ladder，利用差分隐私中的优势向量技术注入噪声。
• 应用 Bassily 等人（2016）提出的改进泛化界，以在自适应设置中实现更紧密的误差控制。
• 采用偏移多数攻击测试鲁棒性，其中通过使用已知标签子集对查询进行偏移，以维持算法的反馈。
• 在模拟中使用标准差为 $ \/theta(1/\theta(n)) $ 的高斯噪声，以中和对抗性查询策略的影响。
• 通过理论约化表明，任何在排行榜误差上的改进，均意味着在一般自适应估计中也存在相应改进。
• 使用参考实现进行实证评估，以评估噪声水平对对抗性查询成功率的影响。

实验结果

研究问题

• RQ1 Ladder 算法的随机化变体能否在自适应风险估计中实现优于 $ O(1/n^{1/3}) $ 的误差率？
• RQ2 排行榜误差的根本极限是什么？是否与非自适应的 $ O(1/\theta(n)) $ 速率一致？
• RQ3 排行榜误差的改进能否推动一般自适应估计问题的进展？
• RQ4 如多数攻击等对抗性查询策略对现有排行榜算法有多有效？噪声能否缓解其影响？

主要发现

• Shaky Ladder 实现了 $ O\left(\frac{\log(k)^{2/5}\log(kn)^{1/5}}{n^{2/5}}\right) $ 的排行榜误差，对应于 $ O(1/n^{0.4}) $，优于先前的 $ O(1/n^{1/3}) $ 边界。
• 在偏移多数攻击下，该算法表现稳健，模拟中仅需 $ \sigma = 3/\sqrt{n} $ 的高斯噪声即可中和攻击影响。
• 建立了理论联系：任何在排行榜误差上超越 $ O(1/n^{0.4}) $ 的改进，都将意味着在一般自适应估计中取得突破，而后者中 $ O(1/\sqrt{n}) $ 的误差仍难以实现。
• 标准 Ladder 算法及其无参变体对多数攻击极为脆弱，攻击通过选择经验误差较低的随机函数，可迅速中止反馈。
• 实证结果表明，噪声水平在 $ 3/\sqrt{n} $ 左右存在一个‘最佳区间’，此时对抗性性能被最小化，且噪声不过度。
• 本文证明，$ O(1/n^{0.4}) $ 的速率并非方法的偶然产物，而是一个自然阈值，因为进一步改进将需要超越当前自适应估计理论的新技术。