[論文レビュー] Computing the norm of nonnegative matrices and the log-Sobolev constant of Markov chains

Antoine Gautier, Matthias Hein+1 more|arXiv (Cornell University)|Feb 6, 2020

Matrix Theory and Algorithms参考文献 44被引用数 5

ひとこと要約

本稿は、非負行列の行列ノルムを計算するためのパワー法のグローバル収束性を、広範な単調で微分可能なベクトルノルムのクラスにおいて確立する。特に、部分集合のエントリに対してℓ^p-ノルムを組み合わせた混合σ-ノルムを含む。正の行列Aに対してp > qのとき、$ Vert A Vert_{q\to p}$の多項式時間収束性を初めて示し、これはかつては解けないと考えられていた領域である。この結果を応用して、ハイパーコントラクト性不等式を用いて、マコフ連鎖の対数ソボレフ定数の新たな下界を導出する。

ABSTRACT

We analyze the global convergence of the power iterates for the computation of a general mixed-subordinate matrix norm. We prove a new global convergence theorem for a class of entrywise nonnegative matrices that generalizes and improves a well-known results for mixed-subordinate $\ell^p$ matrix norms. In particular, exploiting the Birkoff--Hopf contraction ratio of nonnegative matrices, we obtain novel and explicit global convergence guarantees for a range of matrix norms whose computation has been recently proven to be NP-hard in the general case, including the case of mixed-subordinate norms induced by the vector norms made by the sum of different $\ell^p$-norms of subsets of entries. Finally, we use the new results combined with hypercontractive inequalities to prove a new lower bound on the logarithmic Sobolev constant of a Markov chain.

研究の動機と目的

• 一般の非負行列ノルムに対するパワー法のグローバル収束保証が、$ Vert\cdot\rVert_p$ノルムを超えて不足している問題を解決すること。
• 特に$p > q$のとき$ Vert A\rVert_{q\to p}$において、混合下位ノルムの収束解析のギャップを埋めること。一般にはNP困難であるが、この状況においても収束性を保証する。
• 単調で微分可能なベクトルノルムの広いクラス、特に行列エントリの部分集合に対する合成ノルムを含む、パワー法の適用範囲を拡張すること。
• 新しい収束結果とハイパーコントラクト性不等式を用いて、マコフ連鎖の対数ソボレフ定数の新たな下界を導出すること。

提案手法

• 著者らは、一般の単調で微分可能なベクトルノルムに対して、非線形Perron-Frobenius定理を導入し、パワー法のグローバル収束が成立する条件を確立する。
• 収束速度のバウンディングに、Birkhoff–Hopfの収縮比を主要なツールとして用い、収縮比が1未満のときグローバル収束を保証する。
• ノルムの形$ Vert x\rVert_\alpha = \rVert (\rVert x\rVert_{\alpha_1}, \dots, \rVert x\rVert_{\alpha_d}) \rVert_\gamma$に対して、各$ Vert x\rVert_{\alpha_i}$がエントリの部分集合におけるℓ^p-ノルムである場合に適用可能である。
• 固定点がパワー反復の結果として得られる行列ノルムであることを特徴付けるために、双対写像と非線形作用素論を用いた解析を行う。
• マコフ連鎖の文脈では、半群$ Vert \exp(t(K+K^*)) \rVert$のハイパーコントラクト性を、ヒルベルト距離の収縮比$\kappa_H$を介して対数ソボレフ定数と結びつける。
• 主な技術的ステップは、$\lim_{t\to 0} \rho(t)^{-1/t} \leq e^{2\sigma}$を証明することであり、ここで$\rho(t) = \kappa_H(\exp(t(K+K^*))$、$\sigma$は対数ソボレフ定数である。

実験結果

リサーチクエスチョン

• RQ1 一般の単調で微分可能なノルム（特にℓ^pノルムに限らない）$ Vert\cdot\rVert_\alpha$と$ Vert\cdot\rVert_\beta$に対して、パワー法が$ Vert A\rVert_{\beta\to\alpha}$をグローバルに収束するか。
• RQ2 一般にはNP困難であるが、非負行列Aに対して$p > q$のとき$ Vert A\rVert_{q\to p}$に対するパワー法がグローバルに収束するか。
• RQ3 Birkhoff–Hopf収縮比が、一般ノルム下での非負行列に対するパワー法の鋭い収束保証に用いられるか。
• RQ4 新しい収束結果とハイパーコントラクト性不等式を用いて、マコフ連鎖の対数ソボレフ定数の新たな下界を導出可能か。
• RQ5 半群$ Vert \exp(t(K+K^*)) \rVert$のヒルベルト距離収縮比と対数ソボレフ定数$\sigma$との関係は何か。

主な発見

• Birkhoff–Hopf収縮比が1未満である限り、パワー反復の収縮比が1未満である広範な単調で微分可能なベクトルノルムのクラスにおいて、すべての成分が非負の行列Aに対して、パワー法は$ Vert A\rVert_{\beta\to\alpha}$にグローバルに収束する。
• 正行列Aに対して$p > q$のとき$ Vert A\rVert_{q\to p}$に対するパワー法のグローバル収束保証は、本稿が初めてである。この結果により、この領域における多項式時間計算が可能である。
• 本稿では、正行列に対して$ Vert A\rVert_{2\to q}$（$q > 2$）が多項式時間で計算可能であることを証明した。これは、かつて未知であった結果である。
• 対数ソボレフ定数$\sigma$の新たな下界が導出された：$\lim_{t\to 0} \rho(t)^{-1/t} \leq e^{2\sigma}$、ここで$\rho(t) = \kappa_H(\exp(t(K+K^*))$。
• 2状態のマコフ連鎖では、この下界がタイトである：$\lim_{t\to 0} \rho(t)^{-1/t} = e^{2\sqrt{ab}}$であり、$\sigma \geq \sqrt{ab}$となる。$a \neq b$のとき、これは既知の正確な値と一致する。
• 合成ノルム、たとえば$\rVert x\rVert_\alpha = \rVert (\rVert x_{\text{sub}}\rVert_{p_1}, \rVert x_{\text{sub}}\rVert_{p_2}) \rVert_{\gamma}$に対しても結果が拡張可能であり、このようなノルムを含む非凸最適化問題の多項式時間解法が可能になる。