[論文レビュー] On Convergence Property of Implicit Self-paced Objective

Zilu Ma, Shiqi Liu+1 more|arXiv (Cornell University)|Mar 29, 2017

Evolutionary Algorithms and Applications参考文献 9被引用数 5

ひとこと要約

本稿は、自己ペース学習（SPL）の理論的収束保証を確立し、SPLにおける交互最適化戦略が、非凸正則化ペナルティ（NCRP）目的関数の臨界点に収束することを証明している。損失関数の連続的微分可能性と正則化子の強制性というやや弱い条件下で、アルゴリズムが暗黙の目的関数の臨界点に収束することが示され、SPLとロバスト最適化の本質的関係が裏付けられる。

ABSTRACT

Self-paced learning (SPL) is a new methodology that simulates the learning principle of humans/animals to start learning easier aspects of a learning task, and then gradually take more complex examples into training. This new-coming learning regime has been empirically substantiated to be effective in various computer vision and pattern recognition tasks. Recently, it has been proved that the SPL regime has a close relationship to a implicit self-paced objective function. While this implicit objective could provide helpful interpretations to the effectiveness, especially the robustness, insights under the SPL paradigms, there are still no theoretical results strictly proved to verify such relationship. To this issue, in this paper, we provide some convergence results on this implicit objective of SPL. Specifically, we prove that the learning process of SPL always converges to critical points of this implicit objective under some mild conditions. This result verifies the intrinsic relationship between SPL and this implicit objective, and makes the previous robustness analysis on SPL complete and theoretically rational.

研究の動機と目的

• 自己ペース学習（SPL）とその暗黙の非凸正則化ペナルティ（NCRP）目的関数との間の本質的関係を理論的に検証すること。
• SPLの背後にある暗黙の目的関数に対する収束保証の欠如という問題を解決し、これにより先行するロバスト性解析の妥当性を裏付けること。
• 正確な最小化が不可能な実用的状況においても収束理論を拡張し、有界な誤差を許容すること。
• SPLのロバスト性を、明確に定義された暗黙の目的関数の臨界点に結びつける、厳密な理論的基盤を提供すること。

提案手法

• モデル重み $ w $ とサンプル重み $ v $ における最適化の組み合わせとしてSPL目的関数を形式化し、特定の凸性および単調性条件を満たす自己ペース正則化子 $ f_{\theta} $ を用いる。
• SPLプロセスを、暗黙の目的関数 $ G_{\theta} $ に適用した主要化最小化（MM）アルゴリズムとして再定式化し、$ G_{\theta} $ がレベル有界かつ下方下半連続であることを示す。
• 補助関数 $ U(w|w^k) $ が部分微分包含 $ \partial U(w|w) \subset \partial G(w) $ を満たすことを確認することで、MMアルゴリズムの収束理論を適用する。
• 標準的な仮定（目的関数が下から有界、$ L $ が連続的に微分可能、$ v_{\theta}^* $ が連続、$ \phi_{\theta} $ が強制的）の下で、$ G_{\theta} $ の臨界点に収束することを確立する。
• MMステップにおける正確な最小化要件を緩和し、$ \sum_k \epsilon_k < \infty $ を満たす誤差 $ \epsilon_k $ を許容することで、不正確な更新に対しても収束を保証する。
• 強制的かつ下方下半連続関数の性質と部分微分の計算を用いて、列 $ \{w^k\} $ のクラスターポイントが $ G_{\theta} $ の臨界点であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 自己ペース学習プロセスは、暗黙の非凸正則化ペナルティ（NCRP）目的関数の臨界点に収束するか？
• RQ2 正確な最小化が不可能な実用的条件下でも収束を保証できるか？
• RQ3 暗黙の目的関数の臨界点へのSPLアルゴリズムの収束を保証するための最小限の仮定は何か？
• RQ4 暗黙の目的関数は、最適化ダイナミクスおよび安定性の観点から、元のSPL定式化とどのように関係しているか？
• RQ5 主要化最小化（MM）の理論枠組みを用いて、SPLのロバスト性を厳密に正当化できるか？

主な発見

• 損失関数の連続的微分可能性と正則化子の強制性というやや弱い条件下で、SPLにおける交互最適化戦略は、暗黙のNCRP目的関数 $ G_{\theta} $ の臨界点に収束することが示された。
• 累積誤差 $ \sum_k \epsilon_k $ が有限であれば、MMアルゴリズムの最小化ステップが不正確であっても収束が保証される。
• 暗黙の目的関数 $ G_{\theta} $ がレベル有界かつ下方下半連続であることが示され、クラスターポイントの存在が保証された。
• 与えられた仮定の下で、部分微分包含 $ \partial U(w|w) \subset \partial G(w) $ が成り立つため、MM収束理論の適用が可能である。
• 本研究の結果により、SPLが本質的にロバストな暗黙の目的関数を最適化していることが確認され、そのロバスト性に関する先行の経験的・直感的説明の妥当性が裏付けられた。
• 理論的枠組みにより、SPLが収束保証付きの非凸最適化として理解できる基盤が提供され、機械学習応用分野における信頼性が向上した。