[論文レビュー] Quantile regression approach to conditional mode estimation

Hirofumi Ota, Kengo Kato+1 more|arXiv (Cornell University)|Nov 13, 2018

Statistical Methods and Inference参考文献 43被引用数 6

ひとこと要約

本稿では、線形分位数回帰と推定された分位数関数の数値微分を用いて、条件付きモード回帰の計算的にスケーラブルな推定量を提案する。主な貢献は、推定量の漸近分布がチェルノフ分布のスケーリング変換であることであり、非標準的な漸近的性質にもかかわらず、解析的およびサブサンプリングベースの推論が容易に可能になることである。

ABSTRACT

In this paper, we consider estimation of the conditional mode of an outcome variable given regressors. To this end, we propose and analyze a computationally scalable estimator derived from a linear quantile regression model and develop asymptotic distributional theory for the estimator. Specifically, we find that the pointwise limiting distribution is a scale transformation of Chernoff's distribution despite the presence of regressors. In addition, we consider analytical and subsampling-based confidence intervals for the proposed estimator. We also conduct Monte Carlo simulations to assess the finite sample performance of the proposed estimator together with the analytical and subsampling confidence intervals. Finally, we apply the proposed estimator to predicting the net hourly electrical energy output using Combined Cycle Power Plant Data.

研究の動機と目的

• カーネルベースの手法に内在する次元の呪いを回避する計算的に効率的な条件付きモード推定のための推定量を開発すること。
• 提案された推定量の漸近的理論を確立し、その極限分布がチェルノフ分布のスケーリング変換であることを示すこと。
• 条件付きモードのための解析的およびサブサンプリングベースの信頼区間を用いて、実用的な推論ツールを提供すること。
• モンテカルロシミュレーションと発電所のエネルギー出力予測への実データ応用を通じて、有限標本における性能を評価すること。

提案手法

• 計算スケーラビリティを確保するため、線形分位数回帰を用いて条件付き分位数関数を推定し、線形計画問題として定式化する。
• 推定された分位数関数の微分を数値微分により計算し、条件付き密度関数の逆数を近似する。
• この数値的に導かれた微分の最小化により条件付きモードを推定し、条件付き密度のピークを効果的に特定する。
• バンド幅列 $ h_n \to 0 $ の下で漸近的理論を展開し、収束速度は $ (nh^2)^{-1/3} $ である。
• チェルノフ極限分布のスケーリング定数を一貫して推定することで、解析的信頼区間を構築する。
• 解析的分散推定が不安定な場合に備え、サブサンプリングベースの信頼区間も提案する。

実験結果

リサーチクエスチョン

• RQ1 分位数回帰フレームワークを、効率的かつ一貫した条件付きモード推定に適応できるか？
• RQ2 正則性条件の下で、提案された条件付きモード推定量の漸近的分布は何か？
• RQ3 有限標本において、既存の線形モーダル回帰およびカーネルベースの手法と比較して、本手法はどのように性能を発揮するか？
• RQ4 非標準的な極限分布を有する本推定量に対して、解析的およびサブサンプリングベースの信頼区間を効果的に構築できるか？

主な発見

• 提案された推定量は収束速度 $ (nh^2)^{-1/3} $ を達成しており、これは標準的なパラメトリックレートより遅いが、モード推定において一般的なものである。
• 推定量の点ごとの極限分布は、立方根漸近的性質に起因する非標準的な漸近的分布、すなわちチェルノフ分布のスケーリング変換である。
• 極限分布の性質により、相対的に単純な推論が可能である。特に、スケーリング定数を一貫して推定できることで、解析的信頼区間の構築が可能になる。
• サブサンプリングベースの信頼区間は有効で、特に解析的分散推定が不安定な場合に強く頼れる。
• モンテカルロシミュレーションの結果、真のモーダル関数が非線形である場合、本手法の平均二乗誤差は線形モーダル回帰を上回ることが示された。
• 結合サイクル発電所データを用いた実データ応用において、本手法は良好な有限標本性能を示した。