[論文レビュー] Bayesian functional linear regression with sparse step functions

Paul-Marie Grollemund, Christophe Abraham+2 more|arXiv (Cornell University)|Apr 28, 2016

Statistical Methods and Inference参考文献 31被引用数 21

ひとこと要約

この論文では、係数関数をスパースな段階関数としてモデル化することで、スカラの結果に最も影響を与える時間帯を特定するベイジアン関数線形回帰手法であるBlissを紹介する。単純な事前分布と新規の損失関数を用いることで、交差検証を用いずに係数関数のサポートを正確に推定でき、事後確率によりサポート検出の不確実性を定量化できる。

ABSTRACT

The functional linear regression model is a common tool to determine the relationship between a scalar outcome and a functional predictor seen as a function of time. This paper focuses on the Bayesian estimation of the support of the coefficient function. To this aim we propose a parsimonious and adaptive decomposition of the coefficient function as a step function, and a model including a prior distribution that we name Bayesian functional Linear regression with Sparse Step functions (Bliss). The aim of the method is to recover areas of time which influences the most the outcome. A Bayes estimator of the support is built with a specific loss function, as well as two Bayes estimators of the coefficient function, a first one which is smooth and a second one which is a step function. The performance of the proposed methodology is analysed on various synthetic datasets and is illustrated on a black P\\'erigord truffle dataset to study the influence of rainfall on the production.

研究の動機と目的

• 関数線形モデルにおける係数関数のサポートを推定し、スカラの結果に最も影響を与える時間帯を特定すること。
• 係数関数のサポートに焦点を当てることで、パrameter次元を低減する単純なベイジアンモデルの構築。
• チューニングに交差検証に依存することを回避し、予測性能の最適化ではなくサポートの正確性を最適化すること。
• 各時間点がサポートに含まれるかどうかの事後確率推定値を提供することで、解釈可能性と信頼性を向上させること。
• 降雨水のトリフ生産への影響など、実世界の関数データへの応用を可能とし、明確な不確実性の定量化を提供すること。

提案手法

• 係数関数を、非ゼロとなる有限個の区間で定義されるスパースな段階関数としてモデル化する。
• スパイクアンドスラブに類似した階層的事前分布を用いるが、関数的予測変数の自己相関に対処するため、スパイクアンドスラブの代わりにリッジ・ツェルナー事前分布を採用する。
• 離散化された時間グリッドとスパースネスを制御するハイパーパrameterを用いて、ステップ数とその位置に事前分布を課す。
• サポートのベイズ推定量を定義するためのカスタム損失関数を採用し、影響を与える時間帯の正しい同定を促進する。
• 滑らかでない推定量と段階的な推定量の2つのベイズ推定量を導出する。両者は推定の正確性とスパースネスのバランスを取る。
• MCMCサンプリングを用いてサポートと係数関数の事後分布を計算し、各時間点における包含の信頼度を表す事後確率α(t|𝒟)を算出する。

実験結果

リサーチクエスチョン

• RQ1 関数的予測変数におけるどの時間帯が、関数線形モデルにおけるスカラの結果に最も強く影響を与えるか？
• RQ2 高い信頼性と低次元性を備えたベイジアンアプローチで、係数関数のサポートをどのように推定できるか？
• RQ3 従来のリッジ回帰や融合リッジ回帰のようなペナルティ付き手法と比較して、スパースな段階関数事前分布はサポート推定の正確性を向上させられるか？
• RQ4 事後確率α(t|𝒟)が、時間点がサポートに含まれるという信頼度をどの程度信頼できるか示せるか？
• RQ5 降雨水のトリフ生産への影響のような実データに対して、標準的な関数線形回帰手法と比較して、この手法はどの程度の性能を示すか？

主な発見

• Blissは、ブラック・ペリゴールド・トリフデータセットにおいて、主に5月から8月半ば、および前年の2月下旬から3月にかけての2つの主要な影響時間帯を特定した。
• K=3の場合、第一の区間では事後確率α(t|𝒟)が約0.5に達し、第二の区間では0.3に達しており、それぞれ強く支持され、中程度に支持されていることが示された。
• 事後確率が0.4未満の期間（例：11月～12月ごろ）は信頼性が低く、データによって裏付けられていないと判断された。
• より高いK値では不自然なフラクチュエーションが見られるが、事後確率曲線の安定性に基づきK=3を選択することで、過剰適合を回避した。
• モデルはトリフ生産の分散のおよそ半分を説明でき、σ²の事後推定値から良好なフィットが示された。
• Blissは交差検証に代わるチューニング手法として信頼できる代替手段を提供し、予測性能ではなくサポート推定の正確性を直接的ターゲットとしている。