[論文レビュー] Novel Product Manifold Modeling and Orthogonality-Constrained Neural Network Solver for Parameterized Generalized Inverse Eigenvalue Problems

Shuai Zhang, Xuelian Jiang+1 more|arXiv (Cornell University)|Jan 25, 2026

Face and Expression Recognition被引用数 0

ひとこと要約

この論文は、パラメータ付きの直交性制約ニューラルネットワークを、Stiefel多様体とユークリッド多様体の直積上で用い、パラメータ付き一般化逆固有値問題（PGIEP）を解く枠組みを提案する。singular B(c) ケースを含み、P-SMLPを使ったエンドツーエンド学習フレームワークを提供する。

ABSTRACT

A parameterized orthogonality-constrained neural network is proposed for the first time to solve the parameterized generalized inverse eigenvalue problem (PGIEP) on product manifolds, offering a new perspective to address PGIEP. The key contributions are twofold. First, we construct a novel model for the PGIEP, where the optimization variables are located on the product of a Stiefel manifold and a Euclidean manifold. This model enables the application of optimization algorithms on the Stiefel manifold, a capability that is not achievable with existing models. Additionally, the gradient Lipschitz continuity of the objective function is proved. Second, a parameterized Stiefel multilayer perceptron (P-SMLP) that incorporates orthogonality constraints is proposed. Through hard constraints, P-SMLP enables end-to-end training without the need of alternating training between the two manifolds, providing a robust computational framework for generic PGIEPs. Numerical experiments demonstrate the effectiveness of the proposed method.

研究の動機と目的

• 従来の正定値B(c)制約を超えたPGIEPの解法を動機づけ、B(c)が特異であるケースにも対応する。
• 直交制約最適化を可能にするStiefelとEuclidean多様体の積上の変数配置という新しいモデリング枠組みを提案する。
• エンドツーエンド学習のための硬直な制約を課すパラメータ化Stiefel多層パーセプトロン（P-SMLP）を開発する。
• 目的関数の勾配リプシッツ連続性を確立し、Adam様の最適化手法の収束性を正当化する。
• 対称・非対称・singular-B(c)を含むPGIEPシナリオに対する数値実験を通じて手法の有効性を示す。

提案手法

• 積上の多様体上でPGIEPを一般化実Schur分解を用いてモデル化する：(c, Q, Z) in R^n × O(n) × O(n) with objective F(c,Q,Z) が Q^T B(c) Z と Q^T A(c) Z が固有値構造をどれだけ満たすかを測定。
• 構造制約を符号化するマスク行列Pを用い、直交性と構造的制約を課す積上の多様体上の最適化問題を導出する。
• 等価な2つの最適化形を導出：B(c)が非特異な場合の式（Eq. 14）と、B(c)が特異な場合の式（Eq. 18）。どちらも特異値/構造の適合違反を Frobenius ノルムで最小化する。
• 目的関数が Q, Z, c に対してリプシッツ連続であることを証明し、勾配ベース法の適合性を確保する。
• パラメータ化SMLP（P-SMLP）を導入し、直交行列とパラメータベクトルcをエンドツーエンドで共同最適化し、交互最適化を回避する。

実験結果

リサーチクエスチョン

• RQ1 PGIEPを対称・非対称ケースの双方を包含する積上の多様体上の最適化問題として再表現できるか、B(c)特異性を含むか。
• RQ2 P-SMLPの直交性制約ニューラルネットワークは、従来の交互最適化や固有値ベースの反復と比較してPGIEPの堅牢なエンドツーエンド学習を可能にするか。
• RQ3 学習ベースのソルバーの収束を裏付ける理論的保証（例：勾配リプシッツ連続性）は何か。
• RQ4 提案手法は対称、非対称、複数固有値、特異B(c)など、さまざまなPGIEP領域で数値実験を通じてどのように機能するか。

主な発見

• 積上多様体 S_n,r × S_n,r × R^n 上でのPGIEP の新規最適化モデルを提案し、対称・非対称・複数固有値・特異B(c) の状況を扱う。
• エンドツーエンド学習を可能にしつつ直交性制約を課すパラメータ化Stiefel多層パーセプトロン（P-SMLP）を開発する。
• 目的関数の勾配がリプシッツ連続であることを証明し、Adam等の勾配ベースの最適化の利用を裏付ける。
• 数値実験により、提案モデルとP-SMLPフレームワークがさまざまなPGIEP設定で有効であることを示す。