[論文レビュー] A relative error estimation approach for single index model

Zhanfeng Wang, Zimu Chen+1 more|arXiv (Cornell University)|Sep 6, 2016

Statistical Methods and Inference参考文献 14被引用数 4

ひとこと要約

本稿では、単一インデックスモデルに対する最小積相対誤差（LPRE）推定法を提案し、インデックス係数およびリンク関数を推定する二段階手順を用いる。この手法はスケール不変性とロバスト性を備え、シミュレーションおよび実データ（体脂肪研究）において最小二乗法を上回る性能を示し、漸近的整合性および正規性が確立されている。

ABSTRACT

A product relative error estimation method for single index regression model is proposed as an alternative to absolute error methods, such as the least square estimation and the least absolute deviation estimation. It is scale invariant for outcome and covariates in the model. Regression coefficients are estimated via a two-stage procedure and their statistical properties such as consistency and normality are studied. Numerical studies including simulation and a body fat example show that the proposed method performs well.

研究の動機と目的

• 単一インデックスモデルにおける相対誤差に基づく推定手法の欠如に応えること。単一インデックスモデルは広く用いられているが、主に絶対誤差アプローチに依存している。
• スケール不変性を備え、外れ値に対してロバストで、ファイナンスや生存解析で一般的な正値応答変数に適した推定手法を開発すること。
• 最小積相対誤差基準に基づく推定量の漸近的性質（整合性および正規性）を確立すること。
• シミュレーションおよび実世界の体脂肪データセットを通じて、本手法の経験的性能を示すこと。

提案手法

• 応答変数および予測値の両者に対する相対誤差を組み合わせた最小積相対誤差（LPRE）基準を提案し、スケール不変性を保証する。
• 二段階推定手順を採用：まず局所線形スムージングによりリンク関数およびその微分を推定し、次にインデックス係数に関してLPRE基準を最小化する。
• 未知のリンク関数 $ g $ 及びその微分 $ g' $ を推定するために、カーネル重み付き局所線形回帰を用い、バンド幅選択には $ h $ を使用する。
• 真のパrameterの周囲でのテイラー展開と影響関数の分析を通じて、推定量の漸近的正規性および整合性を導出する。
• 推定プロセスの同定可能性および安定性を確保するため、$ \beta^{(r)} $ を用いた再パラメータ化を実装する。
• 厳密な経験過程およびマルティンゲール型の議論を通じて、理論的収束速度および漸近的分布を確立する。

実験結果

リサーチクエスチョン

• RQ1 相対誤差に基づく推定手法は、線形モデルよりも柔軟性に優れる単一インデックスモデルに効果的に拡張可能か？
• RQ2 提案された最小積相対誤差（LPRE）基準は、インデックス係数およびリンク関数の推定量に対して整合的かつ漸近的に正規的か？
• RQ3 モデル不適合または重い尾を持つ誤差の下で、LPRE手法は従来の最小二乗法と比較してロバスト性および効率性に優れているか？
• RQ4 本手法はスケール不変であり、特に金融データや生存解析のような正値応答を持つ応用分野において外れ値に対してロバストか？

主な発見

• 提案されたLPRE推定量は、正則性条件の下で整合性および漸近的正規性を達成し、収束速度は $ \sqrt{n} $ である。
• 本手法はスケール不変性を有し、応答変数または共変量の乗法的変換に影響されないため、解釈可能性とロバスト性が向上する。
• シミュレーション研究では、特に重い尾を持つ誤差分布下で、LPRE手法が平均二乗誤差および相対誤差の観点で最小二乗法を上回ることが示された。
• 体脂肪データセットにおいて、LPRE手法は高 leverage 観測値が存在する状況でも、最小二乗法よりもより安定的かつ正確な予測を提供した。
• 理論的分析により、誤差項が推定量に与える影響が有界であることが確認され、外れ値に対してのロバスト性が裏付けられた。