[論文レビュー] The greedy strategy in optimizing the Perron eigenvalue

Vladimir Yu. Protasov, Aleksandar Cvetković|arXiv (Cornell University)|Jul 13, 2018

Probabilistic and Robust Engineering Design参考文献 19被引用数 6

ひとこと要約

本稿では、非負の行列積族（スパースを含む）におけるペロン固有値（スペクトル半径）を最適化するための頑健なアルゴリズムである選択的グリーディ法を提案する。標準的なグリーディ法とは異なり、スパース行列ではしばしば循環や失敗を起こすが、本手法は内積の差に許容誤差閾値を導入することで収束を保証し、2次収束率を達成するとともに、数回の反復で次元2000に達する大規模問題を効率的に解ける。

ABSTRACT

We address the problems of minimizing and of maximizing the spectral radius overa compact family of non-negative matrices. Those problems being hard in generalcan be efficiently solved for some special families. We consider the so-called prod-uct families, where each matrix is composed of rows chosen independently from givensets. A recently introduced greedy method works very fast. However, it is applicablemostly for strictly positive matrices. For sparse matrices, it often diverges and gives awrong answer. We present the "selective greedy method" thatworks equally well forall non-negative product families, including sparse ones.For this method, we provea quadratic rate of convergence and demonstrate its efficiency in numerical examples.The numerical examples are realised for two cases: finite uncertainty sets and poly-hedral uncertainty sets given by systems of linear inequalities. In dimensions up to 2000, the matrices with minimal/maximal spectral radii in product families are foundwithin a few iterations. Applications to dynamical systemsand to the graph theoryare considered

研究の動機と目的

• 数値的不安定性のため、スパースな非負行列ではしばしば失敗または循環を起こす標準的グリーディ法の限界を解消すること。
• スパース性を含む非負行列の積族におけるスペクトル半径の最小化および最大化のための信頼性の高い最適化アルゴリズムを開発すること。
• グリーディ選択ルールに許容誤差閾値を導入することで、密行列およびスパース行列の両方に対して収束性と精度を保証すること。
• 収束速度の理論的裏付けと、有限および多面体的不確実性集合における数値実験による実践的検証。
• 動的システム、グラフ理論、マルコフ決定過程への応用を拡大するため、スペクトル半径最適化に安定的かつ効率的なアルゴリズムを提供すること。

提案手法

• 各不確実性集合から、現在の主要固有ベクトルとの内積に基づいて最適な行を選択する修正されたグリーディアルゴリズムを提案する。
• 数値的に近い内積値の間で不要な行の入れ替えを避けるために、許容誤差パラメータδを導入する。
• 更新ルールを定義：新しい候補が内積を最大化し、かつ内積の差がδを超過する場合にのみ行を置き換える。
• 各反復でパワー法を適用し、主固有値および固有ベクトルに収束させる。
• 可約な族を処理するため、フロベニウス分解を用いて問題を既約成分に分解する。
• 高精度計算における安定性を向上させるために、数値的続行法および丸め戦略を実装する。

実験結果

リサーチクエスチョン

• RQ1 標準的な実装が循環を起こすスパースな非負行列において、グリーディ法をどのようにして頑健に改善できるか？
• RQ2 数値誤差および近い内積値の存在下でも収束を保証するためのグリーディ選択ルールのどの変更が有効か？
• RQ3 提案手法は、密行列およびスパースな積族の両方において、高速な収束速度（特に2次収束）を維持するか？
• RQ4 数回の反復で次元2000に達する大規模なスペクトル半径最適化問題を効果的に解けるか？
• RQ5 動的システム、グラフ理論、マルコフ決定過程といった実世界の問題に、収束が保証される形で信頼性を持って応用可能か？

主な発見

• 3×3の反例で示されるように、標準的グリーディ法が失敗するスパース行列においても、選択的グリーディ法は循環を効果的に回避する。
• 本手法は2次収束率を達成しており、理論的裏付けがなされており、論文の実験でも数値的に確認されている。
• 次元2000に達する行列において、最小および最大のスペクトル半径が高精度で3〜4反復で計算可能である。
• 内積の差に許容誤差閾値δを導入することで、浮動小数点誤差に起因する誤った行の更新が効果的に防止される。
• 主固有ベクトルにゼロ成分が含まれる場合でも、特に可約族に対してフロベニウス分解を組み合わせることで、本手法は依然として有効である。
• 有限および多面体的不確実性集合における数値結果から、本手法の頑健性と効率性が多様な問題例にわたり確認された。