[論文レビュー] A Geometric Perspective on the Singular Value Decomposition

Giorgio Ottaviani, Raffaella Paoletti|arXiv (Cornell University)|Mar 24, 2015

Matrix Theory and Algorithms被引用数 6

ひとこと要約

本稿は、実行列の特異値分解（SVD）の幾何的枠組みを提示し、特にテルラチーニの補題とセカント多様体を用いて代数幾何学的アプローチでテンソルへと拡張する。テンソルの特異ベクタータプルの線形包として定義される特異空間を導入し、ユークリッド距離（ED）次数との関係を確立することで、多様体上の臨界点とその双対多様体上の臨界点の間に双対性が存在することを明らかにし、セグレ多様体およびヴェロネーゼ多様体のED次数に関する重要な結果を提示する。

ABSTRACT

This is an introductory survey, from a geometric perspective, on the Singular Value Decomposition (SVD) for real matrices, focusing on the role of the Terracini Lemma. We extend this point of view to tensors, we define the singular space of a tensor as the space spanned by singular vector tuples and we study some of its basic properties.

研究の動機と目的

• 代数幾何学的ツール、特にセカント多様体とテルラチーニの補題を用いて、特異値分解（SVD）の幾何的解釈を提供すること。
• 特異ベクタータプルとテンソルの特異空間を定義することで、SVD枠組みを行列から高次テンソルへと拡張すること。
• テンソル多様体のユークリッド距離（ED）次数を調査し、多様体上の臨界点とその双対多様体上の臨界点の間の双対性を確立すること。
• 古典的結果（例えばエッカート＝ヤングの定理）をED次数やセカント多様体といった幾何的不変量と結びつけること。
• すべてのモード方向の特異値が直交性と順序付けられることを保つ高次テンソルへのSVDの一般化（高次SVD：HOSVD）を提示すること。

提案手法

• エッカート＝ヤングの定理をセカント多様体とテルラチーニの補題を用いて幾何学的に解釈し、最良の低ランク近似がランク1行列のセカント多様体に関連することを示す。
• すべての特異ベクタータプルの線形包としてテンソルの特異空間を定義し、SVDの部分空間構造を一般化する。
• セカント多様体の概念を用いてランク1テンソルの線形包の閉包をモデル化し、テンソルランクの幾何的解析を可能にする。
• ユークリッド距離（ED）次数を、一般の点から代数的多様体への距離関数の臨界点の数として定義し、セグレ多様体およびヴェロネーゼ多様体に対して計算する。
• すべてのモード方向のスライスが直交し、順序付けられることを保証するユニタリ変換を用いたHOSVDアルゴリズムを適用する。
• 写像 $ x \mapsto p - x $ を用いて、多様体上の臨界点とその双対多様体上の臨界点の間に標準的な全単射を確立し、$ \mathrm{ED\text{-}degree}(\mathcal{X}) = \mathrm{ED\text{-}degree}(\mathcal{X}^*) $ を証明する。

実験結果

リサーチクエスチョン

• RQ1 エッカート＝ヤングの定理は、セカント多様体やテルラチーニの補題といった幾何的ツールを用いてどのように再解釈できるか？
• RQ2 テンソルの特異空間の幾何的構造は何か？ また、テンソルランクや対称ケースにおける固有テンソルとどのように関係するか？
• RQ3 ランク1テンソルの多様体のED次数は何か？ また、双対多様体（例えばハイパードテルミナント超曲面）のED次数とはどのように関係するか？
• RQ4 高次SVD（HOSVD）は、すべてのモード方向の特異値が直交性と順序付けられることを保ちながら、古典的SVDを高次テンソルへとどのように一般化するか？
• RQ5 テンソル多様体上の距離関数の臨界点と、その双対多様体上の臨界点の間にはどのような関係があるか？

主な発見

• ランクが $ r $ 以下の行列の多様体 $ \mathcal{M}_r $ のED次数は、定理2.9により $ \binom{\min\{m,n\}}{r} $ に等しい。
• 直交群 $ O(n) $ のED次数は、定理2.12により $ 2^n $ に等しい。
• セグレ多様体 $ \mathbb{P}^{n_1} \times \cdots \times \mathbb{P}^{n_d} $ のED次数は、定理5.1で与えられ、カルトワールト＝シュトゥルムフェルスの公式を用いて計算される。
• ヴェロネーゼ多様体 $ v_d(\mathbb{P}^n) $ のED次数は、定理5.2でカルトワールト＝シュトゥルムフェルスの公式を用いて計算される。
• 一般のテンソル $ A \in \mathbb{C}^{n_1+1} \otimes \cdots \otimes \mathbb{C}^{n_d+1} $ に対して、特異ベクタータプルの $ d $-重の数は、$ NM - \sum_{i=1}^{d-1} \binom{n_i+1}{2} - \binom{N+1}{2} $ に等しく、ここで $ N = \prod_{i=1}^{d-1} (n_i+1) $ である。これは定理5.9(i)による。