[论文解读] A Note on a Generalization of Sherman-Morrison-Woodbury formula

Milan Batista|arXiv (Cornell University)|Jul 24, 2008

Scientific Research and Discoveries参考文献 2被引用 5

一句话总结

本文将Sherman-Morrison-Woodbury（SMW）公式推广至处理形如 $ A + \sum_{k=1}^N U_k V_k^T $ 的矩阵逆，其中 $ A $ 可逆，且 $ U_k, V_k $ 为长方形矩阵。主要贡献在于推导出该逆矩阵的闭式表达式，将经典SMW恒等式扩展至多重秩更新情形，从而在高维或结构化矩阵问题中实现高效计算。

ABSTRACT

The article presents a generalization of Sherman-Morrison-Woodbury (SMW) formula for the inversion of a matrix of the form A+sum(U)k)*V(k),k=1..N).

研究动机与目标

• 将经典Sherman-Morrison-Woodbury公式扩展，以同时处理多重秩更新。
• 为形如 $ A + \sum_{k=1}^N U_k V_k^T $ 的矩阵提供一种计算高效的逆公式，其中 $ A $ 可逆。
• 将SMW恒等式推广至标准双矩阵情形之外的 $ N $ 重更新，提升其在数值线性代数中的适用性。
• 提供一种紧凑且可解析处理的逆表达式，避免重复应用原始SMW公式。
• 支持科学计算、优化和统计建模等应用，其中结构化低秩更新较为常见。

提出的方法

• 利用矩阵代数与分块矩阵求逆技术，推导出 $ A + \sum_{k=1}^N U_k V_k^T $ 的广义逆公式。
• 迭代应用标准SMW恒等式，并合并各项，推导出涉及一个 $ N \times N $ 矩阵逆的统一表达式。
• 引入一个矩阵 $ D $，定义为 $ D = I_N + \sum_{k=1}^N V_k^T A^{-1} U_k $，该矩阵推广了经典SMW公式中的标量校正项。
• 将逆矩阵表示为 $ (A + \sum U_k V_k^T)^{-1} = A^{-1} - A^{-1} U D^{-1} V^T A^{-1} $，其中 $ U $ 和 $ V $ 为 $ U_k $ 与 $ V_k $ 的分块矩阵堆叠而成。
• 在 $ A $ 可逆且 $ D $ 可逆的假设下验证该公式，确保表达式定义良好。
• 利用分块矩阵划分与Schur补恒等式，从基本原理出发推导广义形式。

实验结果

研究问题

• RQ1 Sherman-Morrison-Woodbury公式能否被扩展至在单个表达式中处理超过两个秩更新？
• RQ2 一个由 $ N $ 个秩为 $ r_k $ 的更新所扰动的矩阵，其闭式逆是什么？
• RQ3 如何在不重复应用经典SMW公式的情况下，高效计算 $ A + \sum_{k=1}^N U_k V_k^T $ 的逆？
• RQ4 当涉及多个更新时，SMW恒等式中校正矩阵 $ D $ 的推广形式是什么？
• RQ5 在何种条件下，广义公式能保持数值稳定且计算高效？

主要发现

• 广义逆由 $ (A + \sum U_k V_k^T)^{-1} = A^{-1} - A^{-1} U D^{-1} V^T A^{-1} $ 给出，其中 $ D = I_N + V^T A^{-1} U $，且 $ U $ 和 $ V $ 为更新向量的分块矩阵。
• 当 $ N = 1 $ 时，该公式退化为经典SMW恒等式，确认与已有结果的一致性。
• 该方法避免了对 $ A $ 的重复求逆，实现对多个更新的一次性计算，从而提升计算效率。
• $ D $ 的可逆性是广义逆存在的充要条件，扩展了经典条件。
• 只要 $ A $ 和 $ D $ 可逆，该表达式对任意长方形矩阵 $ U_k $ 和 $ V_k $ 均成立。
• 推导过程在代数上严谨，基于分块矩阵求逆，确保在标准线性代数假设下结果正确。