[論文レビュー] Sublinear expectation linear regression

Lu Lin, Yufeng Shi+2 more|arXiv (Cornell University)|Apr 12, 2013

Statistical Methods and Inference参考文献 22被引用数 8

ひとこと要約

本稿は、誤差分布の平均が明確でない（区間内に存在する）モデルの不確実性下での統計的推論を扱うために、部分線形期待値線形回帰モデルを導入する。最小上限最適化に基づく推定量を提案し、パラメータ推定量の漸近正規性を確立するとともに、高次元設定における新しい変数選択手法を開発し、古典的手法とは異なる非線形期待値統計の基盤を提供する。

ABSTRACT

Nonlinear expectation, including sublinear expectation as its special case, is a new and original framework of probability theory and has potential applications in some scientific fields, especially in finance risk measure and management. Under the nonlinear expectation framework, however, the related statistical models and statistical inferences have not yet been well established. The goal of this paper is to construct the sublinear expectation regression and investigate its statistical inference. First, a sublinear expectation linear regression is defined and its identifiability is given. Then, based on the representation theorem of sublinear expectation and the newly defined model, several parameter estimations and model predictions are suggested, the asymptotic normality of estimations and the mini-max property of predictions are obtained. Furthermore, new methods are developed to realize variable selection for high-dimensional model. Finally, simulation studies and a real-life example are carried out to illustrate the new models and methodologies. All notions and methodologies developed are essentially different from classical ones and can be thought of as a foundation for general nonlinear expectation statistics.

研究の動機と目的

• 誤差の平均が明確に分かっていないが区間内に存在するというモデルの不確実性下での線形回帰の統計的枠組みを確立すること。
• 平均の不確実性下で同定可能である部分線形期待値線形回帰モデルを定義し、その同定可能性を証明すること。
• 分布の不確実性に強く、特に最小上限最適化を用いることで、分布の不確実性に対してロバストなパラメータ推定および予測手法を開発すること。
• 古典的統計的推論（漸近正規性やモデル選択など）を非線形期待値設定へと拡張すること。
• 古典的パラメトリック・ノンパラメトリック・ベイズ枠組みとは異なる、非線形期待値モデルにおける統計的推論の新たな基盤を提供すること。

提案手法

• 誤差の平均が不確実で、既知の区間に存在する部分線形期待値線形回帰モデルを提案し、部分線形期待値の表現定理を用いる。
• 複数の分布にわたる経験的リスクの最小上限最適化により推定量を定義し、モデルの不確実性に対してロバストであることを保証する。
• 制限された目的関数にリンドバーグ＝フェラー中心極限定理を適用することで、パラメータ推定量の漸近正規性を導出する。
• 最小上限推定に基づく新しい変数選択手法を導入し、平均の不確実性下での高次元モデル選択を可能にする。
• 最大経験的リスクの最小化と、残差および設計行列を含む凸目的関数の最小化の等価性を用いる。
• 理論を実データおよびシミュレーションに適用し、分布の不確実性下でも推定量のロバスティックさと一貫性を示す。

実験結果

リサーチクエスチョン

• RQ1 誤差の平均が固定値ではなく区間内に存在する場合、どのように一貫した線形回帰モデルを定義できるか？
• RQ2 部分線形期待値下で有効かつ一貫性のある推定法は何か？ また、漸近正規性のような古典的性質を保っているか？
• RQ3 モデルの不確実性下で高次元設定において効果的な変数選択が可能か？ また、古典的手法とはどのように異なるか？
• RQ4 分布の不確実性下で、提案された推定量は古典的手法（最小二乗法や最尤法）と比較してどのように異なるか？
• RQ5 非線形期待値モデルにおける統計的推論の理論的基盤は何か？ また、古典的統計とはどのように異なるか？

主な発見

• 回帰係数の推定量は漸近的に正規分布に従い、最小上限目的関数にリンドバーグ＝フェラー中心極限定理を適用することで、その極限分布が導出される。
• 推定量は最小上限予測性を満たしており、不確実性集合に属するすべての分布に対して最悪の予測誤差を最小化する。
• 真の平均がゼロのとき、推定量は古典的最小二乗推定量と等価であるが、平均が不確実な場合には異なる。
• 変数選択手法は高次元設定でも一貫性を示し、モデルの不確実性下で関連する予測変数を効果的に同定できる。
• シミュレーションおよび中国のNPL比率に関する実データ例から、平均の不確実性下でもモデルのロバスティックさと実用的有用性が確認された。
• モデルと推論枠組みは、古典的統計とは根本的に異なり、単一の既知の確率分布に依存しない。