[論文レビュー] Decomposing Real Square Matrices via Unitary Diagonalization

Théo Trouillon, Christopher R. Dance+2 more|arXiv (Cornell University)|May 23, 2016

Blind Source Separation Techniques参考文献 9被引用数 4

ひとこと要約

本稿では、任意の実正方行列をユニタリ対角化可能な複素行列の実部として表現する、新しい分解手法を導入する。これにより非対称行列の低ランクで一意なベクトル表現が可能になる。主な貢献は、任意の実正方行列が正規行列の実部であることを証明したことであり、ユニタリ対角化が可能となり、機械学習や符号ランク近似への応用が可能になる。

ABSTRACT

Diagonalization, or eigenvalue decomposition, is very useful in many areas of applied mathematics, including signal processing and quantum physics. Matrix decomposition is also a useful tool for approximating matrices as the product of a matrix and its transpose, which relates to unitary diagonalization. As stated by the spectral theorem, only normal matrices are unitarily diagonalizable. However we show that all real square matrices are the real part of some unitarily diagonalizable matrix.

研究の動機と目的

• 対称行列のみが直交的対角化可能であるという制限を克服し、機械学習における一意なベクトル表現を可能にする。
• 複素ユニタリ対角化を用いて非対称な実正方行列の低ランク分解を実現する。
• 複素空間における低次元ユニタリ対角化を用いた符号行列の表現に理論的基盤を提供する。
• 行列の符号ランクが、高々符号ランクの2倍のランクをもつユニタリ対角化に対応することを示す。
• 複素共役およびユニタリ変換を用いて、対称行列や正規行列を超えた行列分解を一般化する。

提案手法

• 任意の実正方行列 $ A $ に対して、$ X = A + iA^T $ と定義する。この $ X $ が正規行列であることが証明される。
• スペクトル定理を用いて $ X = S\Lambda S^* $ とユニタリ対角化する。ここで $ S $ はユニタリで、$ \Lambda $ は対角行列である。
• $ A $ を実部として回復する：$ A = \mathrm{Re}(S\Lambda S^*) $。これにより任意の実正方行列の分解が可能になる。
• ランク $ k $ の実行列 $ A $ に対して、$ 2k $ 次元のユニタリ対角化で十分であることを証明する。
• 符号行列にこの枠組みを適用し、符号ランク $ k $ の任意の符号行列が、$ 2k $ 次元のユニタリ対角化によって再構成可能であることを示す。
• 符号関数を用いて実行列を符号行列に写像し、この分解が符号ランクなどの複雑性測度と関連することを示す。

実験結果

リサーチクエスチョン

• RQ1 任意の実正方行列は、ユニタリ対角化可能な複素行列の実部として表現可能か？
• RQ2 ランク $ k $ の実正方行列を再構成するのに必要なユニタリ対角化の最小次元は何か？
• RQ3 符号ランク $ k $ の符号行列は、高々 $ 2k $ ランクのユニタリ対角化で再構成可能か？
• RQ4 非対称行列を、複素対角化を用いて一意的で低ランクのベクトル埋め込みとして表現可能か？
• RQ5 なぜユニタリ対角化のランクが行列のランクを上回るのか。その構造的要因は何か？

主な発見

• 任意の実正方行列 $ A \in \mathbb{R}^{n \times n} $ は、あるユニタリ行列 $ S $ と対角行列 $ \Lambda $ を用いて $ A = \mathrm{Re}(S\Lambda S^*) $ と表現可能である。これにより、このような分解の存在が証明される。
• 複素行列 $ X = A + iA^T $ は正規行列であり、ユニタリ対角化が保証される。その実部は $ A $ に一致する。
• ランク $ k $ の実行列 $ A $ に対して、$ 2k $ 次元のユニタリ対角化で十分であることが示され、再構成に必要な次元に対するタイトな上界が確立される。
• 符号ランク $ k $ の任意の符号行列 $ Y \in \{-1,1\}^{n \times n} $ は、$ Y = \mathrm{sign}(\mathrm{Re}(S\Lambda S^*)) $ と $ 2k $ 次元のユニタリ対角化で再構成可能である。
• この分解は一意的ではないが、非正規または非対称な行列に対しても意味のある低ランク表現を捉えている。
• 対角成分に一貫性のない符号パターンを持つランク1の符号行列の例は、ランク1のユニタリ対角化が存在しないことを示しており、$ 2k $ の境界が一部のケースでタイトであることを証明している。