[论文解读] The greedy strategy in optimizing the Perron eigenvalue

Vladimir Yu. Protasov, Aleksandar Cvetković|arXiv (Cornell University)|Jul 13, 2018

Probabilistic and Robust Engineering Design参考文献 19被引用 6

一句话总结

本文提出选择性贪心方法，一种针对非负矩阵乘积族（包括稀疏矩阵）优化Perron特征值（谱半径）的鲁棒算法。与通常在稀疏矩阵上易循环或失效的标准贪心方法不同，选择性贪心方法通过引入点积差值的容差阈值，确保收敛，实现二次收敛速率，并在仅几轮迭代内高效求解大规模问题（最大维度达2000）。

ABSTRACT

We address the problems of minimizing and of maximizing the spectral radius overa compact family of non-negative matrices. Those problems being hard in generalcan be efficiently solved for some special families. We consider the so-called prod-uct families, where each matrix is composed of rows chosen independently from givensets. A recently introduced greedy method works very fast. However, it is applicablemostly for strictly positive matrices. For sparse matrices, it often diverges and gives awrong answer. We present the "selective greedy method" thatworks equally well forall non-negative product families, including sparse ones.For this method, we provea quadratic rate of convergence and demonstrate its efficiency in numerical examples.The numerical examples are realised for two cases: finite uncertainty sets and poly-hedral uncertainty sets given by systems of linear inequalities. In dimensions up to 2000, the matrices with minimal/maximal spectral radii in product families are foundwithin a few iterations. Applications to dynamical systemsand to the graph theoryare considered

研究动机与目标

• 解决标准贪心方法在稀疏非负矩阵上因数值不稳定性而常失效或循环的问题。
• 开发一种可靠的优化算法，用于在非负矩阵乘积族上最小化和最大化谱半径，包括具有稀疏性的矩阵。
• 通过在贪心选择规则中引入容差阈值，确保稠密和稀疏矩阵的收敛性和准确性。
• 从理论上证明该方法的收敛速率，并通过有限和多面体不确定性集上的数值实验进行实践验证。
• 通过提供一种稳定高效的谱半径优化算法，将方法的适用性扩展至动力系统、图论和马尔可夫决策过程。

提出的方法

• 提出一种改进的贪心算法，基于当前主导特征向量与各不确定性集中行的点积，选择最优行。
• 引入容差参数δ，当点积值在数值上接近时避免不必要的行替换，从而防止循环。
• 定义更新规则：仅当新候选行的点积最大且点积差值超过δ时才进行替换。
• 在每次迭代中使用幂法计算主导特征向量，确保收敛至主特征值和特征向量。
• 利用Frobenius分解处理可约家族，通过将问题分解为不可约分量来求解。
• 实施数值延拓和舍入策略，以提高高精度计算中的稳定性。

实验结果

研究问题

• RQ1 能否使贪心方法在标准实现因循环而失效的稀疏非负矩阵上具备鲁棒性？
• RQ2 对贪心选择规则进行何种修改，可确保在存在数值不精确性和点积值接近时的收敛性？
• RQ3 所提出的方法是否对稠密和稀疏乘积族均保持快速收敛速率，特别是二次收敛速率？
• RQ4 该方法在仅几轮迭代内求解大规模谱半径优化问题（例如维度高达2000）时是否高效？
• RQ5 该方法能否在动力系统、图论和马尔可夫决策过程等实际问题中可靠应用，并保证收敛？

主要发现

• 选择性贪心方法在标准贪心方法失效的稀疏矩阵中成功避免了循环，如3×3反例所示。
• 该方法实现了二次收敛速率，其理论依据已得到证明，并在论文的实验中得到数值验证。
• 对于维度高达2000的矩阵，该算法仅需3–4轮迭代即可高精度计算出最小和最大谱半径。
• 在点积差值上引入容差阈值δ，有效防止了因浮点数误差导致的虚假行更新。
• 即使主导特征向量包含零分量，该方法依然有效，尤其在结合Frobenius分解处理可约家族时表现更佳。
• 在有限和多面体不确定性集上的数值结果证实，该方法在各类问题实例中均表现出鲁棒性和高效性。