[論文レビュー] Climbing a shaky ladder: Better adaptive risk estimation

Moritz Hardt|arXiv (Cornell University)|Jun 8, 2017

Privacy-Preserving Technologies in Data参考文献 5被引用数 5

ひとこと要約

本稿では、機械学習ベンチマークにおける適応的リスク推定のためのLadderアルゴリズムの確率的変種、Shaky Ladderを紹介する。微分プライバシー技術——特に一般化誤差の上限を改善したスパースベクタ法——を活用することで、$ O(1/n^{0.4}) $ のリーダーボード誤差を達成し、従来の $ O(1/n^{1/3}) $ のレートを改善し、一般の適応的推定における深い関連性を明らかにした。これにより、その分野における飛躍的進展がなければ、さらなる進歩は制限される。

ABSTRACT

We revisit the \emph{leaderboard problem} introduced by Blum and Hardt (2015) in an effort to reduce overfitting in machine learning benchmarks. We show that a randomized version of their Ladder algorithm achieves leaderboard error O(1/n^{0.4}) compared with the previous best rate of O(1/n^{1/3}). Short of proving that our algorithm is optimal, we point out a major obstacle toward further progress. Specifically, any improvement to our upper bound would lead to asymptotic improvements in the general adaptive estimation setting as have remained elusive in recent years. This connection also directly leads to lower bounds for specific classes of algorithms. In particular, we exhibit a new attack on the leaderboard algorithm that both theoretically and empirically distinguishes between our algorithm and previous leaderboard algorithms.

研究の動機と目的

• ホールドアウトセットの適応的使用によって引き起こされる過学習を是正すること。
• 元のLadderアルゴリズムの $ O(1/n^{1/3}) $ の境界を超えて、リーダーボード形式の適応的リスク推定における最新の誤差率を改善すること。
• リーダーボード誤差と一般の適応的推定の間の明確な理論的関係を確立し、一方の改善が他方の改善を意味することを示すこと。
• 理論的および実験的分析を通じて、特にメジャリティ攻撃に対する新しいアルゴリズムの頑健性を示すこと。

提案手法

• 微分プライバシーのスパースベクタ技法を用いたノイズ注入を実行する、Ladderアルゴリズムの確率的変種、Shaky Ladderを設計する。
• Bassilyら（2016）の改善された一般化誤差境界を適用し、適応的設定におけるより厳密な誤差制御を達成する。
• 頑健性のテストに、クエリを既知のラベルのサブセットを用いてオフセットする「シフトされたメジャリティ攻撃」を採用する。
• シミュレーションで攻撃戦略を無効化するために、標準偏差 $ \/theta(1/\theta(n)) $ のガウスノイズを用いる。
• 理論的還元を用いて、リーダーボード誤差のいかなる改善も、一般の適応的推定における対応する改善を意味することを示す。
• ノイズレベルが攻撃的クエリの成功に与える影響を評価するために、リファレンス実装を用いた実験的評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 Ladderアルゴリズムの確率的変種は、適応的リスク推定において $ O(1/n^{1/3}) $ よりも良い誤差率を達成できるか？
• RQ2 リーダーボード誤差の根本的限界は何か？ また、非適応的状況の $ O(1/\theta(n)) $ のレートと一致するか？
• RQ3 リーダーボード誤差の改善は、一般の適応的推定問題における進展をもたらすことができるか？
• RQ4 メジャリティ攻撃のような攻撃的クエリ戦略は、既存のリーダーボードアルゴリズムに対してどれほど効果的か？ また、ノイズはその影響を緩和できるか？

主な発見

• Shaky Ladderは、$ O\left(\frac{\log(k)^{2/5}\log(kn)^{1/5}}{n^{2/5}}\right) $ のリーダーボード誤差を達成し、これは $ O(1/n^{0.4}) $ に相当し、従来の $ O(1/n^{1/3}) $ の境界を改善している。
• シミュレーションでは、わずか $ \sigma = 3/\sqrt{n} $ のガウスノイズでも、シフトされたメジャリティ攻撃に対してアルゴリズムの性能が頑健であることが示された。
• 理論的関係が確立された：リーダーボード誤差が $ O(1/n^{0.4}) $ を超えて改善されれば、一般の適応的推定において $ O(1/\sqrt{n}) $ の誤差が達成可能であるという飛躍的進展を意味する。
• 標準のLadderアルゴリズムおよびそのパラメータフリーな変種は、メジャリティ攻撃に対して極めて脆弱であり、ランダム関数のうち経験的誤差が低いものを選択することで、フィードバックが急速に無効化される。
• 実験的結果から、ノイズレベルが約 $ 3/\sqrt{n} $ の周辺に「最適領域」が存在し、攻撃的性能が最小限に抑えられるとともに、過剰なノイズが発生しないことが示された。
• 本稿では、$ O(1/n^{0.4}) $ のレートが単なる手法の副産物ではなく、自然な限界であることを示した。この先の改善には、現在の適応的推定理論を超える新しい技術が必要となる。