[論文レビュー] Convergence analysis of direct minimization and self-consistent iterations

Éric Cancès, Gaspard Kemlin+1 more|arXiv (Cornell University)|Apr 20, 2020

Physics of Superconductivity and Magnetism参考文献 68被引用数 51

ひとこと要約

本稿は、電子構造理論における部分空間最適化問題を解く2つの基本的アルゴリズムである減衰付き自己無撞着場（SCF）反復法と固定ステップ幅勾配降下法の収束解析を厳密に行っている。スペクトルギャップと問題の条件数に依存する漸近的収束速度を導出し、非二次的汎関数ではSCF法がカオス的挙動を示す可能性がある一方で、勾配降下法はヘッセ作用素のスペクトル特性に強く依存する予測可能な収束を示すことが明らかになった。

ABSTRACT

This article is concerned with the numerical solution of subspace optimization problems, consisting of minimizing a smooth functional over the set of orthogonal projectors of fixed rank. Such problems are encountered in particular in electronic structure calculation (Hartree-Fock and Kohn-Sham Density Functional Theory -DFT- models). We compare from a numerical analysis perspective two simple representatives, the damped self-consistent field (SCF) iterations and the gradient descent algorithm, of the two classes of methods competing in the field: SCF and direct minimization methods. We derive asymptotic rates of convergence for these algorithms and analyze their dependence on the spectral gap and other properties of the problem. Our theoretical results are complemented by numerical simulations on a variety of examples, from toy models with tunable parameters to realistic Kohn-Sham computations. We also provide an example of chaotic behavior of the simple SCF iterations for a nonquadratic functional.

研究の動機と目的

• 電子構造理論に現れる部分空間最適化問題に対して、減衰付きSCF法と勾配降下法の収束挙動を比較すること。
• これらの2つのアルゴリズムの漸近的収束速度を、問題のスペクトル特性の観点から分析すること。
• SCF反復が収束しなくなる条件を特定すること、特に非二次的汎関数におけるカオス的ダイナミクスを含むこと。
• SCF法と直接最小化法の性能差を理解するための理論的基盤を確立すること。
• 最も単純な代表例の分析を通じて、実用的アルゴリズムの改善に役立つ基盤を提供すること。

提案手法

• ハートリー・フォック法やクーン・シャムDFTに関連する、ランクNの直交射影子に関する最小化問題 min_P E(P) を分析する。
• 有効ハミルトニアンのN番目と(N+1)番目の固有値の間のスペクトルギャップが収束速度の主要因であることを特定する。
• 1−βJ 形式の作用素のスペクトル解析を用いて、減衰付きSCF法と固定ステップ幅勾配降下法の局所収束速度を導出する。
• ランクNの射影子の集合をグラスマン多様体上でリーマン幾何学的最適化理論を用いてモデル化する。
• 調整可能なギャップを持つモデル系と現実的なクーン・シャム系の数値実験を通じて、理論的予想を検証する。
• 非二次的汎関数に対してSCF反復がカオス的挙動を示すことを、先行研究を補完する形で解析的に示し、数値的にも確認した。

実験結果

リサーチクエスチョン

• RQ1 減衰付きSCF法と勾配降下法の漸近的収束速度は、有効ハミルトニアンのスペクトルギャップにどのように依存するか？
• RQ2 単純な減衰付きSCF反復はどのような条件下で収束しなくなり、これは非二次的汎関数と関連しているか？
• RQ3 どのような状況下で、勾配降下法のような直接最小化法がSCF法よりもより予測可能な収束を示すのか？
• RQ4 減衰付きSCF法は、固定ステップ幅勾配降下法の行列分割として解釈できるか？
• RQ5 Aufbau原理は、これらのアルゴリズムの収束性と解の一意性にどのような役割を果たすか？

主な発見

• 減衰付きSCF法と勾配降下法の両方の収束速度は、ヘッセ作用素と有効ハミルトニアンを含む作用素のスペクトル半径に支配され、特にN番目と(N+1)番目の固有値の間のスペクトルギャップが重要な要因である。
• 非二次的汎関数に対しては、SCF反復がカオス的挙動を示す可能性があり、本稿ではこれを解析的に示し、数値的にも検証した。
• 減衰付きSCF法は、固定ステップ幅勾配降下法の行列分割として解釈でき、両者の間の理論的関連性を明確にした。
• 縮退した固有値（εN = εN+1）の場合、エネルギー汎関数の最小化子が一意でない可能性があり、Aufbau原理が失敗するおそれがあり、収束性に影響を及ぼす。
• スペクトルギャップが大きい場合には、両アルゴリズムとも線形収束を示すが、同じステップサイズではSCF法の収束速度は勾配降下法よりも一般的に遅い。
• 本分析により、無限次元設定への収束理論の拡張には前処理（preconditioning）が不可欠であることが明らかになったが、これは今後の研究の未解決課題のまま残っている。