[論文レビュー] Perturbed gradient descent with occupation time.

Xin Guo, Jiequn Han+1 more|arXiv (Cornell University)|May 9, 2020

Stochastic Gradient Optimization Techniques参考文献 41被引用数 2

ひとこと要約

本稿では、履歴的な状態訪問に基づいて摂動を適応的に調整するための、占有時間（occupation time）を用いる摂動勾配降下法であるPGDOTを提案する。この手法は、標準的なPGDと同等以上に速い収束を保証するとともに、鞍点への陥没を明示的に回避することが理論的に保証される。非凸最適化設定において、累積的な状態訪問履歴を用いて動的に摂動を調整することで、最適化の安定性が向上する。

ABSTRACT

This paper develops further the idea of perturbed gradient descent, by adapting perturbation with the history of state via the notation of occupation time for saddle points. The proposed algorithm PGDOT is shown to converge at least as fast as perturbed gradient descent (PGD) algorithm, and is guaranteed to avoid getting stuck at saddle points. The analysis is corroborated by experimental results.

研究の動機と目的

• 非凸最適化における鞍点への停滞を、適応的摂動戦略を用いて解決すること。
• 履歴的な状態訪問データを組み込むことで、摂動勾配降下法の収束速度と安定性を向上させること。
• 鞍点に閉じ込められるのを回避する、理論的に保証された収束性を持つアルゴリズムを開発すること。
• 占有時間を最適化における動的摂動適応のメカニズムとして形式化すること。

提案手法

• アルゴリズムは、鞍点に滞在した累積時間を定義する「占有時間」を導入し、摂動の大きさを制御する。
• 鞍点の占有時間が長いほど、摂動の大きさを増加させる。
• 標準的なPGD更新則に、占有時間に依存する時間関数の摂動項を組み込むことで、更新則を変更する。
• 理論的分析により、PGDOTは同一の仮定のもとで、標準的なPGDと同等以上の収束速度を維持することが示された。
• 占有時間が増加するにつれて摂動強度を増加させることで、鞍点への長時間滞在を防ぐように設計されている。

実験結果

リサーチクエスチョン

• RQ1 占有時間は、勾配降下法における摂動の動的適応に用いることができるか？
• RQ2 PGDOTは、標準的な摂動勾配降下法と比較して収束速度を維持または向上させることができるか？
• RQ3 PGDと同一の条件下で、PGDOTは鞍点への収束を保証的に回避できるか？
• RQ4 履歴的な状態訪問データの使用は、最適化の安定性および収束にどのように影響を与えるか？

主な発見

• 同一の仮定のもとで、PGDOTは標準的な摂動勾配降下法と同等以上に収束する。
• 占有時間に基づく摂動適応により、アルゴリズムは鞍点に閉じ込められるのを理論的に保証された形で回避する。
• 実験結果は理論的分析を裏付け、鞍点からの脱出が改善されたことが示された。
• 占有時間メカニズムにより、頻繁に訪問される鞍点における摂動強度が有効に増加し、より速い脱出が可能になった。