[論文レビュー] Accelerated Learning with Robustness to Adversarial Regressors

Joseph E. Gaudio, Anuradha M. Annaswamy+3 more|arXiv (Cornell University)|May 4, 2020

Adversarial Robustness in Machine Learning参考文献 50被引用数 12

ひとこと要約

本稿では、適応制御理論と凸最適化の知見を統合することで、時間変動的で悪意のある回帰子が存在する状況下でも安定性の保証を得られる、新しい離散時間パラメータ更新アルゴリズムを提案する。定常回帰子下では $\tilde{\mathcal{O}}(1/\sqrt{\epsilon})$ の収束速度を達成し、ネステロフの下界 $\Omega(1/\sqrt{\epsilon})$ に一致する（$\log(1/\epsilon)$ 要因を除く）。また、任意の時間変動的回帰子に対しても安定性を保証する。

ABSTRACT

High order momentum-based parameter update algorithms have seen widespread applications in training machine learning models. Recently, connections with variational approaches have led to the derivation of new learning algorithms with accelerated learning guarantees. Such methods however, have only considered the case of static regressors. There is a significant need for parameter update algorithms which can be proven stable in the presence of adversarial time-varying regressors, as is commonplace in control theory. In this paper, we propose a new discrete time algorithm which 1) provides stability and asymptotic convergence guarantees in the presence of adversarial regressors by leveraging insights from adaptive control theory and 2) provides non-asymptotic accelerated learning guarantees leveraging insights from convex optimization. In particular, our algorithm reaches an $ε$ sub-optimal point in at most $ ilde{\mathcal{O}}(1/\sqrtε)$ iterations when regressors are constant - matching lower bounds due to Nesterov of $Ω(1/\sqrtε)$, up to a $\log(1/ε)$ factor and provides guaranteed bounds for stability when regressors are time-varying. We provide numerical experiments for a variant of Nesterov's provably hard convex optimization problem with time-varying regressors, as well as the problem of recovering an image with a time-varying blur and noise using streaming data.

研究の動機と目的

• 制御理論やオンライン学習で一般的に見られる時間変動的または悪意のある回帰子が存在する状況において、加速学習アルゴリズムに安定性の保証がないという問題を解決すること。
• 従来、定常回帰子に限られていた加速学習手法を、動的で非i.i.d.な入力を持つ実世界の応用に拡張すること。
• 定常および時間変動的回帰子の両条件下で、理論的な収束性と安定性の保証を提供すること。
• 高速収束を維持しながら入力の変動に強い、実装可能な離散時間アルゴリズムを設計すること。
• ストリーミングデータを用いた時間変動的ブラーとノイズを伴う画像のぼかし除去といった挑戦的な問題において、有効性を実証すること。

提案手法

• 悪意のある時間変動的回帰子下での安定性を確保するため、適応制御理論の知見を活用し、高次チューナー機構を用いる。
• 変分最適化の原則を統合することで、ネステロフの下界 $\Omega(1/\sqrt{\epsilon})$ に一致する加速収束を達成し、$\log(1/\epsilon)$ 要因の差異を除いて同程度の性能を実現する。
• 3つの主要な変数を用いる離散時間アルゴリズムを提案する：$\theta_k$（パラメータ推定値）、$\nu_{k+1}$（モーメンタム駆動更新）、$\vartheta_k$（適応のための補助状態）。
• 学習の安定化を図るため、正則化項 $\mu(\theta_k - \theta_0)$ を導入し、$\mathcal{N}_k = \|\phi_k\|^2_2$ を用いて更新を正規化する。これにより、回帰子ノルムの変動に対しても安定性が保証される。
• 時間変動的学習率 $\bar{\alpha}$ と、$\beta$ および $\mu$ から導出される適応的ステップサイズ $\gamma$ を用いることで、動的条件下でも収束を保証する。
• 2段階の更新を採用する：まず $\phi_k(\phi_k^T\theta_k - y_k)$ を用いた勾配に類する補正を行い、次に $\beta$ と $\gamma$ を用いたモーメンタムベースの更新を行う。

実験結果

リサーチクエスチョン

• RQ1 制御やオンライン学習で一般的に見られる時間変動的・悪意のある回帰子が存在する状況下でも、加速学習を保証できるか？
• RQ2 回帰子が定常でない場合に、加速最適化手法の安定性を形式的に証明できるか？
• RQ3 動的回帰子条件下でも、ネステロフ風手法の収束速度をどの程度維持できるか？
• RQ4 時間変動環境において、高速収束と耐障害性の両立を実現するハイパーパrameterチューニング戦略は何か？
• RQ5 時間変動的ブラーを伴う画像のぼかし除去という実世界のストリーミング問題において、本手法は標準的勾配降下法やネステロフ加速法と比べてどのように優れているか？

主な発見

• 定常回帰子下では、提案手法が $\tilde{\mathcal{O}}(1/\sqrt{\epsilon})$ の収束速度を達成し、ネステロフの下界 $\Omega(1/\sqrt{\epsilon})$ に $\log(1/\epsilon)$ 要因を除いて一致する。
• 適応制御に由来する正則化と正規化を用いることで、任意の時間変動的回帰子下でも安定性が保証される。
• 時間変動的ブラーを伴う画像のぼかし除去において、Higher Order Tunerは標準的ネステロフ法や勾長降下法を上回り、損失の低減と画像再構成品質の両面で優れた性能を示す。
• ノイズを導入した場合（$N(0, 0.02)$）、$\mu = 0.1$ のチューナーは $\mu = 0$ の場合に比べて著しく優れた再構成性能を示す。
• $l_1$ 正則化項を追加することで性能がさらに向上するが、この場合の理論的分析は未解決のまま残っている。
• 正弦波的に変動するブラー強度を含む、すべての時間変動的回帰子シナリオにおいて、アルゴリズムは安定性を維持するが、ベースライン手法は発散する。