[論文レビュー] Two Approaches to Direct Estimation of Riesz Representers

David Bruns-Smith|arXiv (Cornell University)|Mar 21, 2026

Statistical Methods and Inference被引用数 0

ひとこと要約

本論文はRiesz representersの直接推定アプローチを2つ比較し、未正則化またはリッジ設定では等価であることを示すとともに、他の正則化や機械学習モデルでは差異が生じ得ることを示す。さらにChenら（2014年）の新規制約付き最適化形式を強調し、統計的利点の可能性を論じる。

ABSTRACT

The Riesz representer is a central object in semiparametric statistics and debiased/doubly-robust estimation. Two literatures in econometrics have highlighted the role for directly estimating Riesz representers: the automatic debiased machine learning literature (as in Chernozhukov et al., 2022b), and an independent literature on sieve methods for conditional moment models (as in Chen et al., 2014). These two literatures solve distinct optimization problems that in the population both have the Riesz representer as their solution. We show that with unregularized or ridge-regularized linear, sieve, or RKHS models, the two resulting estimators are numerically equivalent. However, for other regularization schemes such as the Lasso, or more general machine learning function classes including neural networks, the estimators are not necessarily equivalent. In the latter case, the Chen et al. (2014) formulation yields a novel constrained optimization problem for directly estimating Riesz representers with machine learning. Drawing on results from Birrell et al. (2022), we conjecture that this approach may offer statistical advantages at the cost of greater computational complexity.

研究の動機と目的

• 半パラメトリックおよび因果推論文脈においてRiesz representerを直接推定する重要性を動機づける。
• 自動デバイアイズド機械学習（automatic debiased ML）文献とSIEVEベースの条件モーメント文献からの2つの最適化定式を比較する。
• 2つの推定量が数値的に等価である条件や異なる条件を確立し、正則化と計算の影響を議論する。

提案手法

• Riesz representerを異なる目的関数を持つ2つの最適化問題の解として表現する（Riesz loss vs Rayleigh quotient）。
• 未正則化またはリッジ正則化された線形・SIEVE・RKHSモデルにおいては推定量が数値的に等価になることを示す。
• Lassoやより一般的なML機能クラスでは推定量が等価でない可能性があることを示す。
• Chen et al.（2014）問題を制約付き最適化として定式化し、潜在的な計算/統計的トレードオフと結びつける。
• ML機能クラスへの拡張と特殊な場合のGAN様の関連性を議論する。
• 将来の方向性とジェネラティブな分布の差分の変分表現との関係性を概説する。

実験結果

リサーチクエスチョン

• RQ1 Chernozhukovら（2022a）の推定量とChenら（2014）の推定量が数値的に等価となるモデル化・正則化の選択はどのようなものか。
• RQ2 正則化の選択（例：L2 vs L1）が2つの推定法の等価性にどのように影響するか。
• RQ3 機械学習の機能クラスは、Riesz representerの推定において統計的に有利だが計算上は困難な制約付き定式を生み出す可能性があるか。
• RQ4 制約付きRayleigh-quotient形式と密度比問題の変分表現との関連は何か。

主な発見

• 未正則化またはリッジ正則化された線形・SIEVE・RKHSモデルでは、2つのアプローチの推定量が数値的に等価になる。
• Lassoやより一般的なMLモデルでは、2つの定式化間で等価性が成り立たない可能性がある。
• Chen et al.（2014）はMLを用いたRiesz representerの直接推定のための新しい制約付き最適化問題を提供する。
• 制約付きMLアプローチには統計的な利点がある可能性がある一方で、密度比推定および変分表現に関連する結果を踏まえれば計算コストが増大する可能性がある。