[論文レビュー] Bayesian Model Selection for Beta Autoregressive Processes

Roberto Casarin, Luciana Dalla Valle+1 more|arXiv (Cornell University)|Jul 31, 2010

Bayesian Methods and Mixture Models参考文献 23被引用数 7

ひとこと要約

本稿では、線形条件付き平均を持つベータ自己回帰（BAR）過程の次数の推定と選択のためのベイズ枠組みを提案する。可逆遷移MCMC（RJMCMC）アルゴリズムを用いて、パrameterとモデル次数を同時に推定する。この手法は、情報のある事前分布を用いてパrameter制約を組み込み、シミュレーションおよび実データ応用において正確な推定とモデル選択を実現する。

ABSTRACT

We deal with Bayesian inference for Beta autoregressive processes. We restrict our attention to the class of conditionally linear processes. These processes are particularly suitable for forecasting purposes, but are difficult to estimate due to the constraints on the parameter space. We provide a full Bayesian approach to the estimation and include the parameter restrictions in the inference problem by a suitable specification of the prior distributions. Moreover in a Bayesian framework parameter estimation and model choice can be solved simultaneously. In particular we suggest a Markov-Chain Monte Carlo (MCMC) procedure based on a Metropolis-Hastings within Gibbs algorithm and solve the model selection problem following a reversible jump MCMC approach.

研究の動機と目的

• パrameter空間に制約を課したベータ自己回帰過程の完全なベイズアプローチの開発、特に予測応用を想定して。
• BAR(k)モデルにおける線形条件付き平均制約下でのパrameter推定の課題に、適切な事前分布を用いて対処すること。
• 可逆遷移MCMC（RJMCMC）アルゴリズムを用いて、同時にパrameter推定とモデル次数の選択を実行すること。
• RJMCMCチェーンの混合性と収束性に及ぼす異なる事前分布の影響を評価すること。
• シミュレーションデータおよび実世界の比率時系列（例：失業率、設備稼働率）を用いて、手法の妥当性を検証すること。

提案手法

• 有効な定義域 (0,1) を保証するため、標準単体に制約を課した条件付き線形BAR(k)過程を用いる。
• 制約を適切に指定された事前分布を用いて組み込むことで、後部確率計算のためのギブス・メトロポリス・ハスティングス・サンプリングを実装する。
• 次数kが異なるモデルを探索できるように、次元が異なるパrameter空間間を移動可能な可逆遷移MCMCアルゴリズムを適用する。
• モデル次数を増減させる際の自己回帰係数の再パラメータライゼーションに、逆数根に基づくジャンプ提案機構を採用する。
• Brooksら（2003b）およびEhlers & Brooks（2008）の戦略に従い、提案分布をキャリブレーションして受容率を向上させる。
• 混合性の向上とパrameter空間の境界付近の問題の軽減を目的として、情報のある事前分布（正規分布、修正された切断正規分布、ベータ型）を用いる。

実験結果

リサーチクエスチョン

• RQ1 パrameter空間の制約下で、線形条件付き平均を持つベータ自己回帰過程に、効果的なベイズ推論をどのように適用できるか。
• RQ2 異なる事前分布が、BARモデル選択におけるRJMCMCアルゴリズムの混合性と収束性に及ぼす影響は何か。
• RQ3 さまざまなデータ生成メカニズムのもとで、有限標本において提案されたRJMCMCアルゴリズムが真のモデル次数を正確に回復できるか。
• RQ4 事前分布の選択が、自己回帰係数の後部推定およびモデルの予測性能にどのように影響するか。
• RQ5 提案手法が、古典的または頻度主義的手法に比べて、BAR過程の次数推定と選択においてどの程度優れているか。

主な発見

• 提案されたRJMCMCアルゴリズムは、さまざまなパrameter設定を想定した複数のシミュレーション設定において、BAR(k)過程の真のパrameterを的確に推定できた。
• 修正された切断正規分布およびベータ型の事前分布は、特にパrameter空間の境界付近において、RJMCMCチェーンの混合性を顕著に改善した。
• シミュレーション実験において、アルゴリズムは真のモデル次数を正しく同定した。これは、さまざまな標本サイズやデータ生成プロセスに対して、頑健であることを示している。
• 小標本サイズでは、後部推定におけるバイアスと低効率性が観察された。これは、モデル選択性能が標本サイズに敏感であることを示唆している。
• 本手法は、米国およびユーロ圏の失業率、米国の設備稼働率といった実データに成功裏に適用され、強い実証的関連性を示した。
• RJMCMCによるパrameterとモデル次数の同時推定により、モデル空間およびパrameter空間における完全な後部分布が得られ、一貫性のある不確実性の定量化が可能になった。