[论文解读] Cost Trade-offs in Matrix Inversion Updates for Streaming Outlier Detection

Florian Grivet, Louise Travé-Massuyès|arXiv (Cornell University)|Mar 17, 2026

Anomaly Detection Techniques and Applications被引用 0

一句话总结

该论文比较 Direct Inversion、Iterative Sherman-Morrison 和 Woodbury 矩阵恒等式在 Christoffel 函数基础的流式异常检测中更新矩阵逆的成本，推导成本并提出一个实用的更新方法规则。

ABSTRACT

Outlier detection identifies data points that deviate significantly from expected patterns, revealing anomalies that may require special attention. Incorporating online learning further improves accuracy by continuously updating the model to reflect the most recent data. When employing the Christoffel function as an outlier score, online learning requires updating the inverse of a matrix following a rank-k update, given the initial inverse. Surprisingly, there is no consensus on the optimal method for this task. This technical note aims to compare three different updating methods: Direct Inversion (DI), Iterative Sherman-Morrison (ISM), and Woodbury Matrix Identity (WMI), to identify the most suitable approach for different scenarios. We first derive the theoretical computational costs of each method and then validate these findings through comprehensive Python simulations run on a CPU. These results allow us to propose a simple, quantitative, and easy-to-remember rule that can be stated qualitatively as follows: ISM is optimal for rank-1 updates, WMI excels for small updates relative to matrix size, and DI is preferable otherwise. This technical note produces a general result for any problem involving a matrix inversion update. In particular, it contributes to the ongoing development of efficient online outlier detection techniques.

研究动机与目标

• 推动流式异常检测及需要在线学习以更新矩(moment)矩阵逆的需求。
• 引入 Christoffel 函数作为异常分数及其对更新后的逆矩阵的依赖。
• 推导三种秩-k 更新方法的理论计算成本并通过 Python 仿真实验进行验证。
• 提供一个基于矩阵规模和更新秩的实用、定量的方法选择规则，在 DI、ISM 和 WMI 之间做出选择。

提出的方法

• 在流式 setting 中定义 Christoffel 函数及其经验对应物。
• 给出矩阵 M_n(mu_N) 的在线更新及其在秩-k 更新下的逆矩阵更新。
• 推导 Sherman-Morrison 与 Woodbury 的更新公式并给出它们的计算成本。
• 分析 Direct Inversion、Iterative Sherman-Morrison 和 Woodbury 三种方法的成本并进行对比。
• 通过 CPU 上的 Python 仿真实验验证理论成本，并提出简单的判定规则。

实验结果

研究问题

• RQ1 在秩-k 更新下，使用 DI、ISM 和 WMI 更新逆矩阵的计算成本是多少？
• RQ2 在流式 Christoffel 函数框架中，不同矩阵规模和更新秩下这些成本如何比较？
• RQ3 是否可以建立一个简单、定量的规则来在实践中选择最优的更新方法？

主要发现

• ISM 在秩-1 更新时最优。
• 相对于矩阵规模，WMI 在小更新上表现出色。
• DI 在相对于矩阵规模的较大更新时更可取。
• 论文给出一个统一的成本视角，并通过基于 CPU 的仿真进行了验证。
• 提出一个简单、易记的规则，用于基于 s（矩阵规模）和 k（更新秩）进行方法选择。