[论文解读] Product of Random Stochastic Matrices

Behrouz Touri, Angelia Nedich|arXiv (Cornell University)|Oct 8, 2011

Neural Networks Stability and Synchronization参考文献 23被引用 10

一句话总结

该论文通过引入具有时变李雅普诺夫函数的动力系统框架，建立了独立随机行随机矩阵乘积的几乎必然收敛性。论文提出了随机链的类 $π^{*}$，并证明了具有连通无限流图的平衡、强周期性链会收敛到秩一随机矩阵，从而将经典时间齐次马尔可夫链的庞特里亚金-弗罗贝尼乌斯定理推广至更一般情形。

ABSTRACT

The paper deals with the convergence properties of the products of random (row-)stochastic matrices. The limiting behavior of such products is studied from a dynamical system point of view. In particular, by appropriately defining a dynamic associated with a given sequence of random (row-)stochastic matrices, we prove that the dynamics admits a class of time-varying Lyapunov functions, including a quadratic one. Then, we discuss a special class of stochastic matrices, a class $\Pstar$, which plays a central role in this work. We then introduce balanced chains and using some geometric properties of these chains, we characterize the stability of a subclass of balanced chains. As a special consequence of this stability result, we obtain an extension of a central result in the non-negative matrix theory stating that, for any aperiodic and irreducible row-stochastic matrix $A$, the limit $\lim_{k o\infty}A^k$ exists and it is a rank one stochastic matrix. We show that a generalization of this result holds not only for sequences of stochastic matrices but also for independent random sequences of such matrices.

研究动机与目标

• 通过动力系统方法，建立独立随机行随机矩阵乘积的收敛条件。
• 将经典结果（即对于非周期、不可约随机矩阵 $A^k$ 收敛于秩一矩阵）推广至随机、时变非齐次链的情形。
• 引入并表征保证矩阵乘积收敛的随机链类 $π^{*}$。
• 通过无限流图的几何性质定义并分析平衡链，作为包含众多先前研究模型的广义随机矩阵类。
• 将无限流图的几何性质与随机矩阵乘积的稳定性及收敛性相联系。

提出的方法

• 将独立随机行随机矩阵的乘积形式化为由时变随机矩阵驱动的离散时间动力系统。
• 引入时变二次李雅普诺夫函数以分析稳定性，证明其对任意独立随机链均存在。
• 将 $π^{*}$ 随机链类定义为使得矩阵乘积几乎必然收敛的链类。
• 通过无限流图上的几何条件及平衡系数 $\alpha > 0$ 定义平衡链。
• 证明：具有连通无限流图的平衡链属于 $\mathcal{P}^{*}$，从而蕴含收敛性。
• 利用无限流性质与 $\ell_1$-逼近技术，表征矩阵乘积的极限行为。

实验结果

研究问题

• RQ1 在何种条件下，独立随机行随机矩阵的乘积会以几乎必然方式收敛？
• RQ2 如何为由随机矩阵驱动的随机平均动力系统构造时变李雅普诺夫函数？
• RQ3 无限流图与平衡性在确保随机矩阵乘积收敛中起何作用？
• RQ4 经典结果（即 $A^k$ 收敛于秩一矩阵）能否推广至非独立同分布及时间非齐次链？
• RQ5 在随机链背景下，不可约性、非周期性与随机矩阵乘积收敛性之间存在何种关系？

主要发现

• 任何由独立随机行随机矩阵序列驱动的动力系统，均存在时变二次李雅普诺夫函数。
• 随机链类 $\mathcal{P}^{*}$ 由矩阵乘积几乎必然收敛的必要与充分条件表征。
• 通过正平衡系数 $\alpha$ 定义的平衡链构成一个广义类，包含众多已知的随机矩阵模型。
• 若随机链为平衡且强非周期，并具有连通无限流图，则乘积 $W(k:t_0)$ 几乎必然收敛至秩一随机矩阵。
• 当 $\{\mathbb{E}[W(k)]\}$ 的无限流图具有 $\tau$ 个连通分支时，乘积几乎必然收敛至秩至多为 $\tau$ 的矩阵。
• 主要结果推广了经典庞特里亚金-弗罗贝尼乌斯定理：对任意平衡、强非周期链 $\{A(k)\}$，极限 $\lim_{k\to\infty}A(k:t_0)$ 存在且为秩一矩阵，当且仅当无限流图为连通图。