[论文解读] Computing the norm of nonnegative matrices and the log-Sobolev constant of Markov chains

Antoine Gautier, Matthias Hein+1 more|arXiv (Cornell University)|Feb 6, 2020

Matrix Theory and Algorithms参考文献 44被引用 5

一句话总结

本文在广义单调可微向量范数下建立了幂法计算非负矩阵矩阵范数的全局收敛性，包括由子集上 ℓ^p-范数构成的混合 σ-范数。它证明了当 A 为正矩阵时，\|A\|_{q\to p}（p > q）的多项式时间收敛性，此前该情形被认为难以处理，并利用此结果通过超收缩不等式导出了马尔可夫链对数索博列夫常数的新下界。

ABSTRACT

We analyze the global convergence of the power iterates for the computation of a general mixed-subordinate matrix norm. We prove a new global convergence theorem for a class of entrywise nonnegative matrices that generalizes and improves a well-known results for mixed-subordinate $\ell^p$ matrix norms. In particular, exploiting the Birkoff--Hopf contraction ratio of nonnegative matrices, we obtain novel and explicit global convergence guarantees for a range of matrix norms whose computation has been recently proven to be NP-hard in the general case, including the case of mixed-subordinate norms induced by the vector norms made by the sum of different $\ell^p$-norms of subsets of entries. Finally, we use the new results combined with hypercontractive inequalities to prove a new lower bound on the logarithmic Sobolev constant of a Markov chain.

研究动机与目标

• 解决在 ℓ^p 范数之外的一般非负矩阵范数下，幂法缺乏全局收敛保证的问题。
• 填补混合从属范数收敛分析中的空白，特别是当 \|A\|_{q\to p} 中 p > q 时，此时一般情况下该问题为 NP-难。
• 将幂法的应用范围扩展到一大类单调可微向量范数，包括对矩阵元素子集的复合范数。
• 利用新收敛结果与超收缩不等式，推导马尔可夫链对数索博列夫常数的新下界。

提出的方法

• 作者提出了一类广义单调可微向量范数下的新型非线性佩龙-弗罗贝尼乌斯定理，建立了幂法全局收敛的条件。
• 他们使用伯克霍夫-霍夫收缩比作为关键工具，以界定幂迭代器的收敛速率，当该比值小于 1 时可确保全局收敛。
• 该方法适用于形如 \|x\|_\alpha = \| (\|x\|_{\alpha_1}, \dots, \|x\|_{\alpha_d}) \|_\gamma 的范数，其中每个 \|x\|_{\alpha_i} 是子集中元素的 ℓ^p-范数。
• 分析利用对偶映射与非线性算子理论，刻画了幂迭代不动点作为矩阵范数的特征。
• 对于马尔可夫链，该方法通过希尔伯特度量收缩比 \kappa_H 将半群 \exp(t(K+K^*)) 的超收缩性与对数索博列夫常数联系起来。
• 关键技术步骤在于证明 \lim_{t\to 0} \rho(t)^{-1/t} \leq e^{2\sigma}，其中 \rho(t) = \kappa_H(\exp(t(K+K^*)) 且 \sigma 为对数索博列夫常数。

实验结果

研究问题

• RQ1 当 \|\cdot\|_\alpha 与 \|\cdot\|_\beta 为一般单调可微范数（非仅 ℓ^p 范数）时，幂法能否对计算 \|A\|_{\beta\to\alpha} 实现全局收敛？
• RQ2 当 A 为非负矩阵时，即使一般问题为 NP-难，幂法是否对 \|A\|_{q\to p}（p > q）实现全局收敛？
• RQ3 伯克霍夫-霍夫收缩比能否用于推导非负矩阵在一般范数下幂法的精确收敛保证？
• RQ4 能否利用新收敛结果与超收缩不等式，推导马尔可夫链对数索博列夫常数的新下界？
• RQ5 半群 \exp(t(K+K^*)) 的希尔伯特度量收缩比与对数索博列夫常数 \sigma 之间存在何种关系？

主要发现

• 当幂迭代器的伯克霍夫-霍夫收缩比小于 1 时，对于一大类单调可微向量范数，幂法对所有逐元素非负矩阵 A 全局收敛至 \|A\|_{\beta\to\alpha}。
• 该方法首次为正矩阵 A 在 \|A\|_{q\to p}（p > q）情形下提供了全局收敛保证，意味着该情形下可实现多项式时间计算。
• 本文证明了对正矩阵 A，\|A\|_{2\to q}（q > 2）可在多项式时间内计算，此结果此前未知。
• 推导出对数索博列夫常数 \sigma 的新下界：\lim_{t\to 0} \rho(t)^{-1/t} \leq e^{2\sigma}，其中 \rho(t) = \kappa_H(\exp(t(K+K^*))。
• 对于两状态马尔可夫链，该下界是紧的：\lim_{t\to 0} \rho(t)^{-1/t} = e^{2\sqrt{ab}}，且 \sigma \geq \sqrt{ab}，当 a \neq b 时与已知精确值一致。
• 结果可推广至复合范数，如 \|x\|_\alpha = \| (\|x_{\text{sub}}\|_{p_1}, \|x_{\text{sub}}\|_{p_2}) \|_{\gamma}，从而实现涉及此类范数的非凸优化问题的多项式时间求解。