[論文レビュー] On rate optimal local estimation in functional linear model

Jan Johannes, Rudolf Schenk|arXiv (Cornell University)|Feb 3, 2009

Statistical Methods and Inference参考文献 39被引用数 5

ひとこと要約

本稿では、次元削減とガラーキン射影を用いて、関数線形回帰におけるスロープパラメータの線形機能のためのレート最適でしきい値処理に基づくプラグイン推定量を提案する。推定量がソボレフ型楕円体および共分散作用素のクラス上で平均二乗誤差の下界を定数倍の要因まで達成することを証明することで、ミニマックス最適性を確立する。

ABSTRACT

We consider the estimation of the value of a linear functional of the slope parameter in functional linear regression, where scalar responses are modeled in dependence of random functions. The theory in this paper covers in particular point-wise estimation as well as the estimation of weighted averages of the slope parameter. We propose a plug-in estimator which is based on a dimension reduction technique and additional thresholding. It is shown that this estimator is consistent under mild assumptions. We derive a lower bound for the maximal mean squared error of any estimator over a certain ellipsoid of slope parameters and a certain class of covariance operators associated with the regressor. It is shown that the proposed estimator attains this lower bound up to a constant and hence it is minimax optimal. Our results are appropriate to discuss a wide range of possible regressors, slope parameters and functionals. They are illustrated by considering the point-wise estimation of the slope parameter or its derivatives and its average value over a given interval.

研究の動機と目的

• 関数線形回帰におけるスロープパラメータの線形機能のためのレート最適推定量を開発すること。
• スロープパラメータと共分散作用素のクラス上で平均二乗誤差のミニマックス下界を確立すること。
• 提案された推定量が定数倍の要因までミニマックス下界に達することを示し、その最適性を証明すること。
• スロープまたはその導関数の点別および局所平均推定を統一的な枠組みで一般化すること。
• 関数回帰における未知の共分散作用素に起因する不適切に定義された逆問題を扱うこと。

提案手法

• スロープパラメータのしきい値処理されたガラーキン射影に基づくプラグイン推定量を用いる。
• 経験的共分散作用素の固有関数で張られる有限次元部分空間への射影により次元削減を適用する。
• 高次元設定における推定誤差を制御し、逆問題を安定化させるためにしきい値処理を組み込む。
• 安定性と収束を保証するため、共分散作用素とスロープパラメータの間のリンク条件を採用する。
• 固有値の減衰に関する仮定と共分散作用素のスペクトル的性質を用いて理論的バインディングを導出する。
• 一貫性の結果とミニマックス下界・上界を組み合わせることで、最適性を確立する。

実験結果

リサーチクエスチョン

• RQ1 関数線形回帰におけるスロープの線形機能を推定する際のミニマックス収束レートは何か？
• RQ2 やや弱い正則性条件のもとで、しきい値処理されたガラーキン推定量はこのミニマックスレートに達するか？
• RQ3 提案された推定量は推定誤差の理論的下界に対してどのように性能を発揮するか？
• RQ4 推定量が一貫性とレート最適性を示すための条件は何か？
• RQ5 固有値の減衰率とスロープパラメータの滑らかさが推定レートにどのように影響するか？

主な発見

• 提案されたしきい値処理付き射影推定量は、共分散作用素の固有構造とスロープパラメータの滑らかさに関するやや弱い仮定のもとで一貫性を示す。
• スロープパラメータのソボレフ型楕円体と共分散作用素のクラス上で、最大平均二乗誤差の下界が導出された。
• 提案された推定量はこの下界を乗数定数の要因まで達成し、ミニマックス最適性が証明された。
• 収束レートは、共分散作用素の固有値の減衰と、ソボレフノルムで測定されたスロープパラメータの滑らかさに依存する。
• 点別および局所平均推定の両方において、スロープまたはその導関数の最適な推定が達成され、明示的な誤差バインディングが得られた。
• リンク条件 $ T \in \mathcal{N}_\upsilon^d $ の下で理論的保証が成立し、共分散作用素のスペクトル的挙動が制御される。