[論文レビュー] Adaptive Step Size Strategy for Orthogonality Constrained Line Search Methods

Xiaoying Dai, Liwei Zhang+1 more|arXiv (Cornell University)|Jun 7, 2019

Matrix Theory and Algorithms参考文献 32被引用数 4

ひとこと要約

本稿では、背後追跡を不要にしつつ収束性を維持する正規直交制約付き線分探索法のための適応的ステップサイズ戦略を提案する。この手法は、電子構造計算において収束速度を向上させるとともに、反復回数および実行時間の両面で従来の背後追跡に基づく手法を上回る。

ABSTRACT

In this paper, we propose an adaptive step size strategy for a class of line search methods for orthogonality constrained minimization problems, which avoids the classic backtracking procedure. We prove the convergence of the line search methods equipped with our adaptive step size strategy under some mild assumptions.We then apply the adaptive algorithm to electronic structure calculations, which show that our strategy is efficient and recommended.

研究の動機と目的

• 背後追跡による計算コストの高い手続きに依存せずに、正規直交制約付き最小化のためのステップサイズ戦略を開発すること。
• 背後追跡に依存せずに、やや弱い仮定のもとで線分探索法のグローバル収束を保証すること。
• 電子構造計算におけるKohn-Sham DFT問題の解法における計算効率を向上させること。
• 背後追跡型のArmijo戦略の代替として、反復回数と実行時間を削減する、堅牢で適応的な代替手法を提供すること。

提案手法

• 局所的降下条件に基づいてステップサイズを動的に調整する適応的ステップサイズ戦略を導入し、繰り返しの試行点と関数評価を回避する。
• 有界勾配および勾配のリプシッツ連続性を含むやや弱い仮定のもとで、理論的収束性を確立する。
• Stiefel多様体上での共役勾配法および勾配型手法に、この適応的戦略を適用する。
• リトラクションに基づく線分探索フレームワークを採用し、適応的ステップサイズ選択に適応した非単調なArmijo型条件を用いる。
• 正規直交制約下で、CGおよび勾配降下法を含むさまざまな線分探索法に適用可能な一様なアルゴリズムフレームワークを構築する。
• 実分子系を用いたKohn-Shamエネルギー最小化問題に対して、数値的妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 背後追跡を必要とせず、正規直交制約付き線分探索法において収束性を損なわずに適応的ステップサイズ戦略を設計できるか？
• RQ2 電子構造計算において、背後追跡に基づく手法と比較して、提案手法が計算コストを低減できるか？
• RQ3 さまざまな分子系において、適応的戦略の収束速度および最終的な精度はどのように評価できるか？
• RQ4 古典的背後追跡法が要請する仮定よりも弱い仮定のもとで、適応的手法がグローバル収束を維持できるか？

主な発見

• 適応的ステップサイズ戦略は、有界勾配および勾配のリプシッツ連続性を含むやや弱い仮定のもとで、背後追跡を必要とせずにグローバル収束を達成する。
• ベンゼン（C6H6）では、背後追跡法の31.39秒から11.36秒へと計算時間を短縮し、反復回数も625回から334回に削減した。
• フラーレン（C60）では、背後追跡法の6775.76秒から945.60秒へと計算時間を短縮したが、1回あたりのコストは高くなった。
• 背後追跡フリーのバージョン（GM-QR-noBack）はアラニンおよびC120において30,000反復以内に収束しなかったが、適応的手法はそれぞれ3,376および7,929反復で収束した。
• 適応的手法は、背後追跡に基づく手法と同等またはより優れたエネルギー値を達成し、最終エネルギーは参照値（例：C60では-3.42875137E+02 a.u.）と一致した。
• 背後追跡法と比較して、1反復あたりの平均時間（A.T.P.I.）を最大30％まで削減したが、これは反復回数の削減によるものであり、1回あたりのコストは高くなった。