[論文レビュー] Alternate minimization and doubly stochastic matrices

Melvyn B. Nathanson|arXiv (Cornell University)|Dec 31, 2018

Matrix Theory and Algorithms参考文献 5被引用数 5

ひとこと要約

この論文は、正の行列を二重確率的形に変換するためのアルゴリズムとして一般的に知られるSinkhornのアルゴリズム（交互最小化アルゴリズム）の収束挙動を調査する。2×2行列に対しては、収束が最大2回の反復で達成されることを証明し、有限ステップで終了する行列の正確な構造を特定することで、行列スケーリングにおける有限収束長および収束速度に関する未解決問題を解決する。

ABSTRACT

Sinkhorn's alternative minimization algorithm applied to a positive $n imes n$ matrix converges to a doubly stochastic matrix. If the algorithm, applied to a $2 imes 2$ matrix, converges in a finite number of iterations, then it converges in at most two iterations, and the structure of such matrices is determined.

研究の動機と目的

• 正の行列に適用された交互最小化アルゴリズムが、何らかの条件下で有限回のステップで終了する条件を理解すること。
• 正確に2回の反復で収束する2×2正の行列の構造を特定すること。
• 行列スケーリングにおける有限収束に必要な反復回数に一様な上限が存在するかという未解決問題を解決すること。
• 体の構造（例えば、有理数と実数の成分）が、アルゴリズムが有限ステップで終了するかどうかを決定する役割を調査すること。
• 有限収束の結果を、所定の行和と列和を持つ長方形行列に一般化すること。

提案手法

• 交互に行と列のスケーリング操作を適用：行和を正規化するための対角行列による左乗算、次に列和を正規化するための右乗算。
• 転置対称性の恒等式を用いる：$ AY(A) = (X(A^t)A^t)^t $ は、列スケーリングが転置行列の行スケーリングに等価であることを示す。
• Sinkhornの一意性定理を適用：任意の正の行列は、対角行列のスケーリングを除いて、交互スケーリングの下で一意に二重確率的極限に収束する。
• 1回または2回のステップ後に行和と列和が1に等しくなるようにする方程式系を解くことで、2×2行列を明示的に解析する。
• ディオファントス近似技術を用いて、極限行列の有理数成分と無理数成分の違いが収束長に与える影響を研究する。
• 所定の行和ベクトル $ \mathbf{r} $ と列和ベクトル $ \mathbf{c} $ を持つ $ m \times n $ 行列に一般化し、特定の条件下で有限収束が成立することを証明する。

実験結果

リサーチクエスチョン

• RQ1 行確率的ではあるが列確率的ではない初期状態から出発する正の $ 3\times 3 $ 行列が、1回の列スケーリング後に二重確率的になるようなものが存在するか？
• RQ2 n \geq 3 のとき、交互最小化アルゴリズムが有限ステップで終了するまでの反復回数に一様な上界 $ L^*(n) $ が存在するか？
• RQ3 正の $ n\times n $ 行列の成分が $ \mathbb{Q} $ に属するが、その二重確率的極限に無理数成分を含む場合、アルゴリズムは必然的に無限の長さを持つのか？
• RQ4 所定の行和 $ \mathbf{r} $ と列和 $ \mathbf{c} $ を持つ $ m\times n $ 行列に対して、終了までの反復回数に有限の上限 $ L^*(m,n) $ が存在するか？
• RQ5 与えられた行列に対して、行スケーリングを先に始めるか列スケーリングを先に始めるかによって、反復回数の差が、n にのみ依存する定数 $ C_n $ 以内に収まるか？

主な発見

• 2×2正の行列に対して、交互最小化アルゴリズムは最大2回の反復で収束し、本論文では正確に2ステップで終了する行列の集合を完全に特定している。
• 問題1は、行確率的ではあるが列確率的でない正の $ 3\times 3 $ 行列を構成することで解決された。この行列は1回の列スケーリング後に二重確率的になる。
• 問題2は、すべての $ n \geq 3 $ に対して $ L^*(n) = 2 $ であることを証明することで解決された。これは、有限ステップで収束する任意の正の $ n\times n $ 行列が、最大2回の反復で終了することを意味する。
• 問題4は、すべての $ m,n \geq 2 $ に対して $ L^*(m,n) = 2 $ であることを示すことで解決された。これにより、所定の行和と列和を持つ長方形行列に対しても、有限収束の上限が拡張された。
• 問題5は、ある定数 $ C_n $ に対して $ |N_1 - N_2| < C_n $ が成り立つことを示すことで解決された。証明により、行スケーリングを先に始めるか列スケーリングを先に始めるかによる反復回数の差が有界であることが確認された。
• 本論文は、$ M_n^+(\mathbb{Q}) $ に属する行列が二重確率的極限に無理数成分を含む場合、そのアルゴリズムは必然的に無限の長さを持つことを確立した。これは、反復列が常に有理数のままだが、無理数に収束するためである。