[論文レビュー] Accelerated Stochastic Gradient-free and Projection-free Methods

Feihu Huang, Lue Tao+1 more|arXiv (Cornell University)|Jul 16, 2020

Stochastic Gradient Optimization Techniques被引用数 8

ひとこと要約

本稿では、勾配情報が利用できない制約付き非凸最適化問題に対して、勾配アクセスなしの高速化された確率的ゼロ階Frank-Wolfe法（Acc-SZOFWおよびAcc-SZOFW*）を提案する。SPIDER/SpiderBoostおよびSTORMを用いた分散低減と、新規のモーメンタム技術を組み合わせることで、関数クエリの複雑さが向上し、有限和問題では$O(d\sqrt{n}\epsilon^{-2})$、確率的問題では$O(d\epsilon^{-3})$を達成。先行研究に比べて顕著な改善を実現した。

ABSTRACT

In the paper, we propose a class of accelerated stochastic gradient-free and projection-free (a.k.a., zeroth-order Frank-Wolfe) methods to solve the constrained stochastic and finite-sum nonconvex optimization. Specifically, we propose an accelerated stochastic zeroth-order Frank-Wolfe (Acc-SZOFW) method based on the variance reduced technique of SPIDER/SpiderBoost and a novel momentum accelerated technique. Moreover, under some mild conditions, we prove that the Acc-SZOFW has the function query complexity of $O(d\sqrt{n}ε^{-2})$ for finding an $ε$-stationary point in the finite-sum problem, which improves the exiting best result by a factor of $O(\sqrt{n}ε^{-2})$, and has the function query complexity of $O(dε^{-3})$ in the stochastic problem, which improves the exiting best result by a factor of $O(ε^{-1})$. To relax the large batches required in the Acc-SZOFW, we further propose a novel accelerated stochastic zeroth-order Frank-Wolfe (Acc-SZOFW*) based on a new variance reduced technique of STORM, which still reaches the function query complexity of $O(dε^{-3})$ in the stochastic problem without relying on any large batches. In particular, we present an accelerated framework of the Frank-Wolfe methods based on the proposed momentum accelerated technique. The extensive experimental results on black-box adversarial attack and robust black-box classification demonstrate the efficiency of our algorithms.

研究の動機と目的

• 勾配が利用できない、特にブラックボックス設定における制約付き非凸最適化問題に対処すること。
• 有限和および確率的設定下でのゼロ階Frank-Wolfe法の関数クエリ複雑度を低減すること。
• 分散低減における大規模ミニバッチの依存を排除し、実用的効率を向上させること。
• 新規のモーメンタム技術を用いた、Frank-Wolfe法の一般化された加速フレームワークの構築。

提案手法

• SPIDER/SpiderBoostに基づく分散低減と、ゼロ階Frank-Wolfeのための新規モーメンタム加速スキームを組み合わせ、Acc-SZOFWを導入。
• STORMに基づく分散低減を用いることで大規模バッチの必要性を回避しつつ、最適なクエリ複雑度を維持するAcc-SZOFW*を提案。
• 関数値に基づく勾配近似のため、座標ごとの勾配推定器（CooGE）と一様/滑らか化推定器（UniGE）を採用。
• ゼロ階Frank-Wolfeにおける収束を加速するため、動的かつ探索方向を調整する新規のモーメンタム技術を適用。
• 各反復で射影ではなく線形最小化オракルを用いることで、Frank-Wolfeの射影フリー特性を保持。
• 制約集合の滑らかさとコンact性に関するやや弱い仮定の下で、理論的収束保証を導出。

実験結果

リサーチクエスチョン

• RQ1 確率的非凸最適化において、加速された収束と低減された関数クエリ複雑度を実現するゼロ階Frank-Wolfe法を設計できるか？
• RQ2 分散低減付きゼロ階Frank-Wolfe法において、大規模ミニバッチの必要性を排除しつつ、最適なクエリ複雑度を維持できるか？
• RQ3 提案されたモーメンタム加速技術は、標準的なFrank-Wolfe法と比較して、ゼロ階設定での収束をどのように改善するか？
• RQ4 提案手法は、有限和および確率的設定の両方で、既存のゼロ階Frank-Wolfeアルゴリズムよりも優れたクエリ複雑度を達成できるか？

主な発見

• Acc-SZOFWは有限和問題において$O(d\sqrt{n}\epsilon^{-2})$の関数クエリ複雑度を達成し、先行研究の最良結果を$O(\sqrt{n}\epsilon^{-2})$の要因で改善した。
• 確率的問題では、Acc-SZOFWが$O(d\epsilon^{-3})$のクエリ複雑度を達成し、先行研究の最良結果を$O(\epsilon^{-1})$の要因で改善した。
• Acc-SZOFW*は、STORMに基づく分散低減のおかげで、大規模バッチに依存せず、確率的問題においても同様に$O(d\epsilon^{-3})$のクエリ複雑度を達成した。
• ブラックボックスの敵対的攻撃およびロバスト分類に対する広範な実験により、提案手法は既存手法と比較してより速く収束し、関数クエリ数を削減した。
• MNISTおよびCIFAR10における実験結果により、モーメンタムを用いた加速フレームワークがゼロ階Frank-Wolfeの収束速度を顕著に向上させたことが実証された。
• アルゴリズムは、ユニバーサルおよびシングルポイントの敵対的例の生成において優れた性能を示し、実世界の機械学習セキュリティタスクにおける実用的効率を確認した。