[論文レビュー] A simple method to construct confidence bands in functional linear regression

Masaaki Imaizumi, Kengo Kato|arXiv (Cornell University)|Dec 22, 2016

Advanced Statistical Methods and Models参考文献 42被引用数 3

ひとこと要約

本稿では、関数的線形回帰におけるスロープ関数の信頼帯を構築するための単純で漸近的に有効な手法を提案する。PCA（主成分分析）に基づく推定量を用い、すべての点ではなく「大多数の点」に対して被覆を緩和することで、標準的な正則性条件の下で理論的妥当性を確立し、PCAのカットオフ選択ルールを実用的かつ明確に提示することで、関数的回帰における信頼性のある不確実性の定量化を可能にする。

ABSTRACT

This paper develops a simple method to construct confidence bands, centered at a principal component analysis (PCA) based estimator, for the slope function in a functional linear regression model with a scalar response variable and a functional predictor variable. The PCA-based estimator is a series estimator with estimated basis functions, and so construction of valid confidence bands for it is a non-trivial challenge. We propose a confidence band that aims at covering the slope function at "most" of points with a prespecified probability (level), and prove its asymptotic validity under suitable regularity conditions. Importantly, this is the first paper that derives confidence bands having theoretical justifications for the PCA-based estimator. We also propose a practical method to choose the cut-off level used in PCA-based estimation, and conduct numerical studies to verify the finite sample performance of the proposed confidence band. Finally, we apply our methodology to spectrometric data, and discuss extensions of our methodology to cases where additional vector-valued regressors are present.

研究の動機と目的

• 関数的線形回帰におけるPCAベース推定量の理論的裏付けのある信頼帯の欠如という、文献における重要なギャップを埋める。
• すべての点にわたる一様な被覆ではなく、事前に指定された確率で真のスロープ関数が「大多数の点」をカバーする信頼帯を構築すること。
• アンダースモoothingを保証し、漸近的有効性を達成するためのPCAカットオフレベルの実用的選択法を提供すること。
• 数値的実験を通じて有限標本性能を検証し、実データ（分光測定データ）に適用すること。
• 追加のベクトル値型予測子を含む設定へのメソドロジーの拡張

提案手法

• スロープ関数のPCAベース推定量を中心とする信頼帯を提案し、定義域内の大多数の点に対して被覆を緩和する。
• 経験的共分散作用素から得られる推定固有関数のランダム性を扱うために、確率的近似法を用いる。
• 高次元で非定常かつ相関のある確率的ベクトルのマルチプライヤー中心極限定理を用い、推定量の偏差の漸近的分布を正当化する。
• 重み付き推定係数の和の3次の絶対モーメントを制御することで、推定量のスアップノルム偏差の上限を導出する。
• 推定$L^2$-リスクを最小化する最適レベルをわずかに上回るカットオフレベル選択ルールを導入し、アンダースモoothingを保証する。
• モーメントと固有値の減衰条件の下で、集中不等式とモーメントバウンドを用いて、固有関数の推定誤差を制御する。

実験結果

リサーチクエスチョン

• RQ1 関数的線形回帰におけるPCAベース推定量に対して、理論的根拠があり、実装可能な信頼帯を構築できるか？
• RQ2 経験的共分散作用素から得られる推定固有関数のランダム性は、推論において適切に扱えるか？
• RQ3 理論的妥当性と実用性を両立するPCAカットオフレベルの選択法は何か？
• RQ4 標準的な正則性条件の下で、提案手法の信頼帯は漸近的に有効性を保つのか？
• RQ5 有限標本では性能がどうなるか？また、追加のベクトル値型回帰子を含むモデルへは拡張可能か？

主な発見

• 提案手法の信頼帯は、標準的な正則性条件の下で漸近的に有効であり、事前に指定された確率レベルで真のスロープ関数が「大多数の点」をカバーする。
• 条件(14)の下で、スアップノルム偏差バウンドに対する$o_P(1)$収束が達成され、標本サイズが増加するにつれて信頼帯の有効性が保証される。
• 推定$L^2$-リスクを最小化する最適レベルをわずかに上回るカットオフレベル選択ルールにより、アンダースモoothingと理論的有効性が保証される。
• 数値的実験により、信頼帯の有限標本性能が確認され、適切な被覆率が達成されている。
• 本手法は、追加のベクトル値型回帰子を含むモデルへも拡張可能であり、適用範囲が広がる。
• 理論的根拠は、重み付き推定係数の和の3次の絶対モーメントのバウンドに依拠し、正則性条件下で消える$O_P(m_n^{7/4}/n^{1/2 - 1/(2q)})$の誤差項が得られる。