[论文解读] Matrix-Free Approximate Equilibration

Andrew Bradley, Walter Murray|arXiv (Cornell University)|Oct 12, 2011

Matrix Theory and Algorithms参考文献 16被引用 3

一句话总结

本文提出了一种无需矩阵存储的近似平衡化算法，适用于具有符号元素的非对称矩阵和对称矩阵，仅通过矩阵-向量乘积迭代平衡行范数和列范数。关键贡献在于，仅需100至200次矩阵-向量乘积即可显著降低条件数，通常实现接近最优的平衡化效果，且无需直接访问矩阵元素。

ABSTRACT

The condition number of a diagonally scaled matrix, for appropriately chosen scaling matrices, is often less than that of the original. Equilibration scales a matrix so that the scaled matrix's row and column norms are equal. Scaling can be approximate. We develop approximate equilibration algorithms for nonsymmetric and symmetric matrices having signed elements that access a matrix only by matrix-vector products.

研究动机与目标

• 开发仅依赖矩阵-向量乘积、无需直接访问矩阵元素的无矩阵存储算法，以实现具有符号元素矩阵的近似平衡化。
• 将此前依赖于元素访问的平衡化技术扩展至此类访问成本过高或不可行的矩阵场景。
• 仅通过矩阵-向量乘积，改善对称与非对称矩阵（尤其是不定矩阵）的条件性。
• 通过在佛罗里达大学稀疏矩阵集合中选取的稀疏矩阵进行数值实验，评估这些算法的有效性。
• 证明少量矩阵-向量乘积即可实现显著的条件数降低，即使在大规模问题中亦具实际效益。

提出的方法

• 分别提出针对非对称矩阵和对称矩阵的snbin与ssbin算法，仅使用矩阵-向量乘积。
• 基于行范数与列范数（或对称情况下仅行范数）的比值进行迭代更新，以调整缩放向量。
• 采用固定迭代次数（例如128次），无自适应停止机制，依赖于经验观察到的收敛行为。
• 在对称情况下引入类似snbin的行为切换机制，以应对可约性问题并提升收敛稳定性。
• 通过缩放后矩阵的最大与最小行（或列）2-范数之比以及缩放后矩阵的条件数来衡量性能。
• 在MATLAB中实现算法，并在佛罗里达大学稀疏矩阵集合中的741个非对称矩阵和466个对称矩阵上进行测试。

实验结果

研究问题

• RQ1 能否仅通过矩阵-向量乘积实现对带符号矩阵的有效近似平衡化，而无需直接访问矩阵元素？
• RQ2 无矩阵存储的平衡化算法在降低对称与非对称矩阵（尤其是不定矩阵）条件数方面的效果如何？
• RQ3 矩阵-向量乘积的次数对平衡化质量有何影响？多少次乘积足以带来实际效益？
• RQ4 与精确平衡化或雅可比缩放相比，所提算法在条件数降低方面的性能表现如何？
• RQ5 算法输出的方差在多大程度上影响其可靠性？能否在少量矩阵-向量乘积下获得一致结果？

主要发现

• 在128次迭代后，snbin与ssbin算法在涵盖六个数量级矩阵规模的各类矩阵中，最大与最小行（或列）范数之比稳定在1.5至6之间。
• 缩放后矩阵的条件数几乎总是显著低于原始矩阵，许多数据点在条件数降低图中远低于对角线。
• 对于对称矩阵，缩放后矩阵的条件数通常降低一个数量级以上，五次独立运行的紧密聚类表明输出方差极低。
• 算法收敛稳定且一致，十次独立运行的收敛历史高度聚集，表明其鲁棒性良好。
• 在对称情况下切换至类似snbin的行为可改善收敛性，并避免因可约性导致的停滞。
• 约100次矩阵-向量乘积足以实现对称矩阵的有效平衡化，非对称矩阵则需约200次，使该方法在大规模问题中具有实际可行性。