[论文解读] Rectangular maximum volume and projective volume search algorithms

Alexander Osinsky|arXiv (Cornell University)|Sep 7, 2018

Markov Chains and Monte Carlo Methods参考文献 7被引用 10

一句话总结

本文提出了两种新算法——maxvol-rect 和 maxvol-proj——用于寻找具有局部最大体积和较大投影体积的矩形子矩阵，这对实现高精度的低秩近似至关重要。通过采用高效的更新策略和改进的初始子矩阵选择方法，优化行与列的选择，该方法在交叉近似中实现了更高的精度，具有理论保证，并且收敛速度优于以往方法。

ABSTRACT

New methods for finding submatrices of (locally) maximal volume and large projective volume are proposed and studied. Detailed analysis is also carried out for existing methods. The effectiveness of the new methods is shown in the construction of cross approximations, and estimates are also proved in the case of their application for the search for a strongly nondegenerate submatrix. Much attention is also paid to the choice of the starting submatrix.

研究动机与目标

• 开发高效算法，用于识别具有局部最大体积和较大投影体积的矩形子矩阵，这对于实现精确的交叉近似至关重要。
• 改进现有方法（如 maxvol2），通过支持行与列交换，并利用基于 Householder 的更新减少计算开销。
• 为使用高投影体积子矩阵时的近似精度提供理论保证，特别是在伪骨架近似背景下。
• 分析并优化初始子矩阵的选择，以限制行/列交换次数，提升收敛速度。
• 将最大体积原理从方阵子矩阵扩展至矩形子矩阵，增强其在大规模低秩近似任务中的适用性。

提出的方法

• 提出 maxvol-rect，即 maxvol 算法的改进版本，通过迭代交换行与列以最大化体积，使用基于 QR 的 Householder 反射更新实现高效计算，从而找到主导的矩形子矩阵。
• 提出 maxvol-proj，一种新颖算法，分别对行与列进行优化，以最大化 r-投影体积（即前 r 个最大奇异值的乘积），从而在近似精度上优于标准体积最大化方法。
• 采用两阶段初始化策略：首先选择高体积的 r×n 和 m×r 子矩阵，然后将二者组合为具有大投影体积的 m×n 子矩阵。
• 利用基于 Householder 反射的高效秩揭示 QR 更新，通过消除冗余矩阵更新降低计算成本，与先前方法相比，将 mn 的系数减少一半。
• 应用递归秩-1 更新机制，以高效维护和更新关键量（如 A⁻¹B、γ 和 ω），从而快速识别下一对最优行/列。
• 实施动态更新策略，通过向量与矩阵运算跟踪体积和投影体积指标的变化，避免在每一步进行完整重计算。

实验结果

研究问题

• RQ1 如何有效将最大体积原理从方阵子矩阵扩展至矩形子矩阵，以提升低秩近似的性能？
• RQ2 初始子矩阵的选择对基于体积的子矩阵选择算法的收敛性与准确性有何影响？
• RQ3 在交叉近似中，投影体积最大化是否能带来优于标准体积最大化的近似误差界？
• RQ4 如何在不牺牲精度的前提下，提升体积搜索算法的计算效率？
• RQ5 投影体积与 Frobenius 范数下伪骨架近似精度之间的理论关系是什么？

主要发现

• maxvol-rect 算法在方阵子矩阵情况下与 maxvol 结果一致，在矩形情形下，其精度与收敛速度均优于 maxvol2。
• maxvol-proj 算法生成的子矩阵具有显著更大的投影体积，从而在低秩近似中相比标准体积最大化方法，提供了更优的理论误差界。
• 基于 Householder 的更新变体使 mn 的计算系数相比原始 maxvol2 减少两倍，提升了效率且未损失精度。
• 数值实验验证了在 Frobenius 范数下的高近似精度，支持了‘大投影体积子矩阵可产生更优交叉近似’的假设。
• 理论分析证明，主导子矩阵具有相对良好的条件性，支持其在稳定且高精度的伪骨架近似中应用。
• 初始子矩阵的选择限制了所需行/列交换的次数，从而实现更快收敛并降低算法复杂度。