[論文レビュー] Dual Regression

Richard H. Spady, Sami Stouli|arXiv (Cornell University)|Oct 25, 2012

Statistical Methods and Inference参考文献 5被引用数 7

ひとこと要約

本稿では、分位数回帰で一般的に見られる条件付き分位数面の交差問題を回避する新しい手法として、二重回帰（dual regression）を導入する。同時線形位置スケールモデルの数学的プログラミングの双対として定式化することにより、最小限の正則性仮定のもとで一貫性があり、交差のない分布推定が可能となる。また、経験的過程の完全な漸近理論が確立されている。

ABSTRACT

We propose dual regression as an alternative to the quantile regression process for the global estimation of conditional distribution functions under minimal assumptions. Dual regression provides all the interpretational power of the quantile regression process while avoiding the need for repairing the intersecting conditional quantile surfaces that quantile regression often produces in practice. Our approach introduces a mathematical programming characterization of conditional distribution functions which, in its simplest form, is the dual program of a simultaneous estimator for linear location-scale models. We apply our general characterization to the specification and estimation of a flexible class of conditional distribution functions, and present asymptotic theory for the corresponding empirical dual regression process.

研究の動機と目的

• 分位数回帰で見られる条件付き分位数面の交差問題に起因する解釈性の欠如を是正すること。
• 弱い正則性条件のもとで、条件付き分布関数をグローバルに一貫して推定する手法の開発。
• 条件付き分布関数を、同時推定器の双対として特徴付ける数学的プログラミングフレームワークの構築。
• 柔軟なモデルクラスにおける経験的二重回帰過程の漸近理論の確立。
• 複雑な後処理を要せず、ロバストで交差のない条件付き分布の推定を可能とすること。

提案手法

• 二重回帰は、線形位置スケールモデルの同時推定器の双対プログラムとして、条件付き分布関数の推定を定式化する。
• 数学的プログラミングにおける双対性を活用することで、交差する分位数面の修正作業が不要となる。
• 非パラメトリックまたはセミパラメトリックな指定により、柔軟なクラスの条件付き分布関数に適用可能である。
• このアプローチは、構成上、推定された条件付き分布の単調性と交差のなさを保証する。
• 経験的二重回帰過程のための漸近理論が構築され、一貫性と弱収束が確立されている。
• 最小限の正則性仮定のもとで、効率的な推定と推論が可能となる。

実験結果

リサーチクエスチョン

• RQ1 二重回帰の定式化は、交差のない一貫性のある分位数回帰の代替手段として、条件付き分布関数を推定するのに有効か？
• RQ2 数学的プログラミングの双対性を用いることで、交差する分位数面の修正を要せず、条件付き分布関数を特徴付ける方法は何か？
• RQ3 二重回帰過程が一貫性と漸近的妥当性を示すために必要な正則性条件は何か？
• RQ4 標準的な分位数回帰と比較して、二重回帰は柔軟なクラスの条件付き分布関数の推定においてどのように性能を発揮するか？
• RQ5 二重回帰フレームワークは、経験的過程の完全な漸近理論をサポートできるか？

主な発見

• 二重回帰は、構成上、交差する分位数面の後処理を不要とし、推定された条件付き分布の単調性を保証する。
• この手法は、線形位置スケールモデルの同時推定器に対応する数学的に整合性のある双対定式化を提供する。
• 最小限の正則性仮定のもとで、経験的二重回帰過程が一貫性と弱収束を示すことが示された。
• 強いパラメトリック制約を課さずに、柔軟なクラスの条件付き分布関数の推定が可能である。
• 二重定式化により、分位数回帰と同等の解釈性を備えたグローバルな条件付き分布関数の推定が可能となり、その主な実用的欠陥を回避する。
• 漸近理論が確立されており、推定された分布関数に対する有効な推論と仮説検定が可能となる。