[論文レビュー] PGDOT -- Perturbed Gradient Descent Adapted with Occupation Time

Xin Guo, Jiequn Han+2 more|arXiv (Cornell University)|May 9, 2020

Neural Networks and Applications参考文献 60被引用数 4

ひとこと要約

本稿では、到達時間に基づいて摂動を適応させることで収束を加速し、鞍点を脱出するための摂動勾配降下法であるPGDOTを提案する。MLPの学習において、Adam や RMSProp といった標準的な最適化手法を上回り、特に鞍点からの脱出において優れた性能を示し、PGD と同等以上に収束を保証する。

ABSTRACT

This paper develops further the idea of perturbed gradient descent (PGD), by adapting perturbation with the history of states via the notion of occupation time. The proposed algorithm, perturbed gradient descent adapted with occupation time (PGDOT), is shown to converge at least as fast as the PGD algorithm and is guaranteed to avoid getting stuck at saddle points. The analysis is corroborated by empirical studies, in which a mini-batch version of PGDOT is shown to outperform alternatives such as mini-batch gradient descent, Adam, AMSGrad, and RMSProp in training multilayer perceptrons (MLPs). In particular, the mini-batch PGDOT manages to escape saddle points whereas these alternatives fail.

研究の動機と目的

• 深層学習の学習中に標準的な最適化手法が鞍点から脱出できないという限界を解決すること。
• 歴史的状態情報を取り入れることで、摂動勾配降下法の収束速度を向上させること。
• 局所的最小値や鞍点をより効果的に回避できる理論的裏付けのある最適化アルゴリズムを開発すること。
• 提案手法がAdam や RMSProp といった一般的な適応的最適化手法を上回ることを実験的に検証すること。

提案手法

• 最適化の過程で特定の状態が訪問された時間の累積を、到達時間として定義する。
• 現在の状態の累積到達時間に基づいて、勾配降下法における摂動の大きさを適応的に調整する。
• 状態が繰り返し訪問されるたびに摂動項の大きさを増加させる時間適応型摂動項を更新式に組み込む。
• 理論的分析により、PGDOTはPGD と同等以上に収束し、緩い条件下でも鞍点を回避できることを示す。
• 深層ニューラルネットワークの実用的学習を目的として、PGDOT のミニバッチ版を開発する。
• 標準的なMLPベンチマークを用いて、ミニバッチPGDOTをベースライン最適化手法と比較して実験的に評価する。

実験結果

リサーチクエスチョン

• RQ1 到達時間は、最適化のダイナミクスを改善するための摂動の適応に有効に利用できるか？
• RQ2 深層学習の文脈において、PGDOT はPGD や他の標準的最適化手法よりも速く収束するか？
• RQ3 Adam や RMSProp などの手法が失敗する場面でも、PGDOT は鞍点からの脱出を信頼性高く行えるか？
• RQ4 標準的なMLPベンチマークにおいて、ミニバッチ版のPGDOT は適応的最適化手法と比較してどのように性能を発揮するか？

主な発見

• PGDOT は理論的に収束速度がPGD と同等以上であることが保証され、収束が少なくともPGD と同等以上に速いことが示された。
• 実証的に、PGDOT は多くの標準的最適化手法が陥りがちな鞍点に閉じ込められるのを回避できることを証明した。
• 実験的評価において、ミニバッチPGDOT はMLPの学習において、ミニバッチ勾配降下法、Adam、AMSGrad、RMSProp をすべて上回った。
• ミニバッチPGDOT は、Adam や RMSProp が失敗する場面でも、学習中に鞍点からの脱出に成功した。
• 到達時間の使用により、収束を損なうことなく探索性を向上させる適応的摂動が可能になった。
• 特に非凸な設定において、深層学習の最適化タスクにおいて、本アルゴリズムは頑健性と効率性を示した。