[論文レビュー] Cost Trade-offs in Matrix Inversion Updates for Streaming Outlier Detection

Florian Grivet, Louise Travé-Massuyès|arXiv (Cornell University)|Mar 17, 2026

Anomaly Detection Techniques and Applications被引用数 0

ひとこと要約

論文は Direct Inversion（DI）、Iterative Sherman-Morrison（ISM）、Woodbury Matrix Identity（WMI）を Christoffel-function に基づくストリーミング外れ検知における行列逆の更新手法として比較し、コストを導出するとともに実用的な更新法ルールを提案する。

ABSTRACT

Outlier detection identifies data points that deviate significantly from expected patterns, revealing anomalies that may require special attention. Incorporating online learning further improves accuracy by continuously updating the model to reflect the most recent data. When employing the Christoffel function as an outlier score, online learning requires updating the inverse of a matrix following a rank-k update, given the initial inverse. Surprisingly, there is no consensus on the optimal method for this task. This technical note aims to compare three different updating methods: Direct Inversion (DI), Iterative Sherman-Morrison (ISM), and Woodbury Matrix Identity (WMI), to identify the most suitable approach for different scenarios. We first derive the theoretical computational costs of each method and then validate these findings through comprehensive Python simulations run on a CPU. These results allow us to propose a simple, quantitative, and easy-to-remember rule that can be stated qualitatively as follows: ISM is optimal for rank-1 updates, WMI excels for small updates relative to matrix size, and DI is preferable otherwise. This technical note produces a general result for any problem involving a matrix inversion update. In particular, it contributes to the ongoing development of efficient online outlier detection techniques.

研究の動機と目的

• ストリーミング外れ検知の動機付けと、モーメント行列の逆更新を伴うオンライン学習の必要性。
• Christoffel 関数を外れスコアとして導入し、更新された逆モーメント行列への依存を説明する。
• 3つのランク-k 更新法の理論的計算コストを導出し、Python シミュレーションで検証する。
• 行列サイズと更新ランクに基づいて DI、ISM、WMI のいずれを選択するかの実用的で定量的なルールを提供する。

提案手法

• Christoffel 関数と、ストリーミング設定におけるその実証的対応関数を定義する。
• ランク-k 更新の下で、瞬間行列 M_n(mu_N) およびその逆行列のオンライン更新を形式化する。
• Sherman-Morrison および Woodbury の更新公式を導出し、それらの計算コストを明示する。
• Direct Inversion、Iterative Sherman-Morrison、Woodbury のアプローチのコストを分析し、比較する。
• CPU 上の Python シミュレーションで理論的コストを検証し、単純な意思決定ルールを提案する。

実験結果

リサーチクエスチョン

• RQ1 ランク-k 更新を用いた場合の逆モーメント行列の更新コストは、DI、ISM、WMI のいずれでどの程度か。
• RQ2 ストリーミング Christoffel-function フレームワークにおける、行列サイズと更新ランクの変化に対してこれらのコストはどのように比較されるか。
• RQ3 実務的に、最適な更新法を選択するための単純で定量的なルールを確立できるか。

主な発見

• ISM はランク-1 更新に対して最適である。
• WMI は行列サイズに対して比較的小さな更新に対して優れている。
• DI は行列サイズに対して相対的に大きな更新に対して望ましい。
• 論文は統一的なコスト視点を導出し、CPU ベースのシミュレーションで検証している。
• s（行列サイズ）と k（更新ランク）に基づく方法選択を容易にする、覚えやすい単純ルールを提案する。