[論文レビュー] Conditional extragradient algorithms for solving variational inequalities

Yunier Bello-Cruz, R. Díaz Millán+1 more|arXiv (Cornell University)|Nov 17, 2014

Optimization and Variational Analysis参考文献 31被引用数 4

ひとこと要約

本稿では、収束性を向上させるために、実行可能集合の非ゼロ法線ベクトルを組み込むことで、制約付き変分不等式問題を解くための条件付きエクストラジェニック・アルゴリズムを導入する。境界への射影に基づくおよび実行可能方向への基づく2つのアーミジョ型ラインサーチ戦略を用いることで、演算子の連続性と擬似単調性より弱い条件という、やや弱い仮定の下でも収束が達成され、従来のエクストラジェニック法が解ける問題のクラスを拡張する。

ABSTRACT

In this paper, we generalize the classical extragradient algorithm for solving variational inequality problems by utilizing nonzero normal vectors of the feasible set. In particular, conceptual algorithms are proposed with two different linesearchs. We then establish convergence results for these algorithms under mild assumptions. Our study suggests that nonzero normal vectors may significantly improve convergence if chosen appropriately.

研究の動機と目的

• 制約付き変分不等式問題（VIPs）を解くための、エクストラジェニック・アルゴリズムのより効率的な変種を開発すること。
• 実行可能集合の非ゼロ法線ベクトルを活用し、反復法における収束性を改善すること。
• 擬似単調性より弱い仮定、例えば連続性と解の存在という条件下で収束を確立すること。
• 条件付きラインサーチ戦略を組み込むことで、古典的なエクストラジェニックスキームを一般化すること。このラインサーチ戦略では法線ベクトルの情報を用いる。

提案手法

• 解集合を含む半空間を定義するために非ゼロ法線ベクトルを用いる2つの概念的条件付きエクストラジェニック・アルゴリズムを導入する。
• 内側のループで射影に基づくラインサーチを用いて、実行可能集合の境界上でステップサイズを決定する、アーミジョ型ラインサーチを採用する。
• 実行可能方向に沿った代替のアーミジョ型ラインサーチを用い、外側の反復ごとに1回の射影で十分である。
• 降下的条件を満たすように、法線ベクトルと演算子評価値に基づいて動的にステップサイズを選択する条件付きラインサーチ戦略を適用する。
• 予測（z^k）、凸結合（y^k）、および実行可能集合への最終射影（x^{k+1}）の3段階からなるエクストラジェニックスキームを定式化する。
• 2種類の異なるラインサーチメカニズムを用いる：1つは演算子値の差のノルムに基づき、もう1つは内積の降下条件に基づく。

実験結果

リサーチクエスチョン

• RQ1 実行可能集合の非ゼロ法線ベクトルは、変分不等式のエクストラジェニック型アルゴリズムにおける収束性向上に効果的に利用可能か？
• RQ2 弱い仮定の下でも収束を保証しつつ、法線ベクトル情報を組み込んだラインサーチ戦略をどのように適応可能にするか？
• RQ3 法線ベクトルに基づく条件付きラインサーチを用いる場合、標準的なエクストラジェニック法と比較してどのような影響を及ぼすか？
• RQ4 演算子のリプシッツ連続性や強い単調性を仮定せずとも、収束を確立できるか？
• RQ5 提案手法は、非単調的または弱い擬似単調的演算子に適用可能な点で、既存のエクストラジェニック法をどの程度一般化できるか？

主な発見

• 提案されたアルゴリズムは、演算子の連続性と少なくとも1つの解の存在という仮定の下で、変分不等式問題に対して収束を達成する。擬似単調性の要件は不要である。
• 非ゼロ法線ベクトルの使用により、解集合を含む半空間を構築でき、これにより長いステップサイズが可能になり、収束性が向上する。
• 境界への射影に基づくアーミジョ型ラインサーチは、単調性と連続性の下で収束を保証するが、リプシッツ連続性は不要である。
• 実行可能方向に沿った代替ラインサーチ戦略は、外側の反復ごとに1回の射影で十分であり、計算効率が向上する。
• 数値的実験の結果、法線ベクトルの組み込みにより初期段階の収束が加速されることが示され、ハイブリッドスキームへの応用可能性が示唆される。
• 強単調性やリプシッツ連続性の必要性を緩和することで、解けるVIPのクラスが拡張される。