[論文レビュー] Robust Matrix Estimation with Side Information

Anish Agarwal, Jungjun Choi+1 more|arXiv (Cornell University)|Mar 25, 2026

Advanced Causal Inference Techniques被引用数 0

ひとこと要約

柔軟な sieve ベースのフレームワークを導入し、行と列からのサイド情報を活用してターゲット行列を四つの成分に分解。核ノルムペナルティと MAR および MNAR 欠損データシナリオへの拡張を含む。

ABSTRACT

We introduce a flexible framework for high-dimensional matrix estimation to incorporate side information for both rows and columns. Existing approaches, such as inductive matrix completion, often impose restrictive structure-for example, an exact low-rank covariate interaction term, linear covariate effects, and limited ability to exploit components explained only by one side (row or column) or by neither-and frequently omit an explicit noise component. To address these limitations, we propose to decompose the underlying matrix as the sum of four complementary components: (possibly nonlinear) interaction between row and column characteristics; row characteristic-driven component, column characteristic-driven component, and residual low-rank structure unexplained by observed characteristics. By combining sieve-based projection with nuclear-norm penalization, each component can be estimated separately and these estimated components can then be aggregated to yield a final estimate. We derive convergence rates that highlight robustness across a range of model configurations depending on the informativeness of the side information. We further extend the method to partially observed matrices under both missing-at-random and missing-not-at-random mechanisms, including block-missing patterns motivated by causal panel data. Simulations and a real-data application to tobacco sales show that leveraging side information improves imputation accuracy and can enhance treatment-effect estimation relative to standard low-rank and spectral-based alternatives.

研究の動機と目的

• 行と列の両方からサイド情報を組み込んだ高次元行列推定の動機づけ。
• 相互作用と一方の側だけ、またはどちらにも説明される成分を捉える一般的な四成分分解を提案。
• 各成分を個別に推定し集約するための sieve 投影法と核ノルムペナルティの組み合わせを開発。
• MAR および MNAR メカニズム下での部分観測行列への拡張（因果パネル動機づけパターンを含む）。
• モデル設定の.robustさを示す収束率を確立し、シミュレーションと実データで利点を示す。

提案手法

• M を四部に分解する：M1 は X および Z で説明される相互作用、M2 は X 主導、M3 は Z 主導、M4 は X や Z で説明されない部分。
• 各成分を未知の非線形関数を含む行列積として表現し、読み込み行列は観測されない。
• sieve 基底を用いて投影行列 PX および PZ を形成し、非線形効果と直交性を許容してノイズ影響を低減。
• M1 は PX Y PZ によって推定し、M2/M3/M4 は PX や PZ の効果を取り除いた残差に対して核ノルムペナルティ付きの投影で推定。
• 四つの推定量を集約して最終 M_hat を形成：Mhat = M1hat + M2hat + M3hat + M4hat。
• 欠損データには MAR ベースの投影と残り部分への核ノルムペナルティを適用して拡張；MAR の収束結果を導出し、MNAR にはブロックパターンと回転による再構成を適用。

Figure 1: Missing pattern in MNAR case

実験結果

リサーチクエスチョン

• RQ1 行と列のサイド情報を非線形相互作用を含む堅牢な行列推定フレームワークに統合できるか？
• RQ2 信号を相互作用成分、行主導、列主導、残差成分に分解することで、サイド情報の情報量に応じて推定が改善されるか？
• RQ3 explicit なランク推定を要求せず、sieve 投影と核ノルムペナルティを組み合わせて各成分を推定する方法は？
• RQ4 全観測、MAR、MNAR の設定下で提案推定量の収束特性はどうなるか？
• RQ5 サイド情報の組み込みは因果パネル文脈における補完と処置効果推定を改善するか？

主な発見

• 提案された四成分モデルは多くの既存モデルを一般化し、いくつかの成分が弱いまたはゼロでも頑健である。
• 核ノルムペナルティ付きの sieve 投影により各成分を個別に推定し、頑健な最終集約を可能にする。
• サイド情報の有用性に応じて収束率が変化し、サイド情報が無情報の場合でも標準的な低ランク法と競合する。
• MAR および MNAR への拡張を可能とし、MAR は投影＋核ノルム残り部分で、MNAR は二つのサブマトリクスと回転調整による手法で対応。
• 実データとシミュレーションは、サイド情報の活用が欠損補完の精度を改善し、スペクトル/低ランクの代替法に比べて処置効果推定を改善し得ることを示す。

Figure 2: AMSE under different values of $\alpha_{r}$