[論文レビュー] Sparse Bayesian Factor Analysis when the Number of Factors is Unknown

Sylvia Fruehwirth-Schnatter, Hedibert F. Lopes|arXiv (Cornell University)|Apr 11, 2018

Blind Source Separation Techniques被引用数 12

ひとこと要約

本稿では、一般化された下三角制約を導入することで、識別可能性および回転不変性の問題を解決するスパースベイジアン要因モデルを提案する。これにより、未知の共通要因数の一貫した推定が可能になる。ポイントマス混合事前分布と、アンシラリティ・十分性の入れ違い戦略（ASIS）を用いたカスタムMCMCアルゴリズムを用いることで、要因数の数とスパースな負荷係数の両方を回復可能であり、分散同定の理論的保証と為替レートおよび株式リターンデータにおける実証的検証が得られる。

ABSTRACT

Despite the popularity of sparse factor models, little attention has been given to formally address identifiability of these models beyond standard rotation-based identification such as the positive lower triangular constraint. To fill this gap, we provide a counting rule on the number of nonzero factor loadings that is sufficient for achieving uniqueness of the variance decomposition in the factor representation. Furthermore, we introduce the generalised lower triangular representation to resolve rotational invariance and show that within this model class the unknown number of common factors can be recovered in an overfitting sparse factor model. By combining point-mass mixture priors with a highly efficient and customised MCMC scheme, we obtain posterior summaries regarding the number of common factors as well as the factor loadings via postprocessing. Our methodology is illustrated for monthly exchange rates of 22 currencies with respect to the euro over a period of eight years and for monthly log returns of 73 firms from the NYSE100 over a period of 20 years.

研究の動機と目的

• 標準的な回転に基づく制約を超えた、スパースベイジアン要因モデルにおける識別可能性の長年の問題に取り組むこと。
• 過適合スパース要因モデルにおける未知の共通要因数の一致した推定を可能にする手法を開発すること。
• 要因表現における分散同定を保証し、ヘイワッド問題やランク不足を回避すること。
• ベイジアン階層モデルを用いて、要因数とスパースな要因負荷係数の同時推論を統合的フレームワークで提供すること。
• 自動モデル選択と事後要約を備えた、高次元経済・金融データへの実用的応用を可能にすること。

提案手法

• 回転不変性の解消とモデル識別性の確保のため、一般化された下三角制約を導入する。
• 要因負荷係数にポイントマス混合事前分布を適用し、スパarsityを誘導し、ゼロ負荷係数を変数選択問題として扱う。
• 逆遷移MCMCとアンシラリティ・十分性の入れ違い戦略（ASIS）を組み合わせたカスタムMCMCアルゴリズムを用いて、効率的な事後計算を実現する。
• MCMCの安定性と収束性を向上させるために、分数的および一般化逆ガウス（GIG）作業事前分布を分散成分に適用する。
• 周辺データ拡張と事後後処理を用いて、要因数と負荷行列の両方を同時に要約する。
• 共役および条件付き共役事前分布を用いて、負荷係数、要因、分散成分の条件付き事後分布を導出する。

実験結果

リサーチクエスチョン

• RQ1 要因数が未知である場合、スパースベイジアン要因モデルにおける識別可能性を形式的に確立するにはどうすればよいか？
• RQ2 スパース要因モデルにおいて、一意な分散分解を保証し、回転不変性を解消するために必要な制約は何か？
• RQ3 ベイジアン非パラメトリック手法を用いて、過適合スパース要因モデルにおける共通要因数を一貫して推定できるか？
• RQ4 ポイントマス混合事前分布と効率的なMCMCサンプリングをどのように組み合わせ、要因数とスパースな負荷係数を同時に推定できるか？
• RQ5 分数的およびGIG事前分布は、高次元設定における事後推定の安定化とヘイワッド問題の回避にどのような役割を果たすか？

主な発見

• 分散分解の一意性を達成するための、非ゼロ負荷係数の数に関するカウントルールが確立された。
• 一般化された下三角制約により、過適合スパース要因モデルにおける未知の共通要因数の一致した回復が可能になった。
• ASISを用いた提案されたMCMCスキームとポイントマス事前分布は、高次元データにおける要因数とスパースな負荷係数の両方を効果的に同定した。
• 22通貨の為替レートおよび73銘柄のNYSE100株式に対する実証的結果から、安定した事後推定が得られ、要因選択の正確性と低い誤発見率が確認された。
• 一般化逆ガウス（GIG）作業事前分布の使用により、逆ガンマ分布やガンマ分布よりもMCMC収束がより安定した。
• 後処理による事後要約により、要因数の信頼性の高い推定が得られ、ヘイワッド問題やランク不足を効果的に回避した。