[论文解读] Sparse Bayesian Factor Analysis when the Number of Factors is Unknown

Sylvia Fruehwirth-Schnatter, Hedibert F. Lopes|arXiv (Cornell University)|Apr 11, 2018

Blind Source Separation Techniques被引用 12

一句话总结

本文提出了一种稀疏贝叶斯因子模型，通过引入广义下三角约束，解决了可识别性与旋转不变性问题，实现了对未知公共因子数量的一致估计。该方法采用点质量混合先验与定制的MCMC算法（结合辅助性-充分性交错策略，ASIS），能够同时恢复因子数量与稀疏载荷，理论证明了方差识别性，并在汇率与股票收益数据上得到经验验证。

ABSTRACT

Despite the popularity of sparse factor models, little attention has been given to formally address identifiability of these models beyond standard rotation-based identification such as the positive lower triangular constraint. To fill this gap, we provide a counting rule on the number of nonzero factor loadings that is sufficient for achieving uniqueness of the variance decomposition in the factor representation. Furthermore, we introduce the generalised lower triangular representation to resolve rotational invariance and show that within this model class the unknown number of common factors can be recovered in an overfitting sparse factor model. By combining point-mass mixture priors with a highly efficient and customised MCMC scheme, we obtain posterior summaries regarding the number of common factors as well as the factor loadings via postprocessing. Our methodology is illustrated for monthly exchange rates of 22 currencies with respect to the euro over a period of eight years and for monthly log returns of 73 firms from the NYSE100 over a period of 20 years.

研究动机与目标

• 为解决标准旋转约束之外稀疏贝叶斯因子模型中长期存在的可识别性问题。
• 开发一种方法，以一致估计过度拟合稀疏因子模型中未知的公共因子数量。
• 确保因子表示中方差分解的唯一性，避免Heywood问题与秩亏缺陷。
• 提供一个统一的贝叶斯层次模型框架，实现对因子数量与稀疏因子载荷的联合推断。
• 在高维经济与金融数据中实现实际应用，支持自动模型选择与后验总结。

提出的方法

• 引入广义下三角约束，以解决旋转不变性问题并确保模型可识别性。
• 在因子载荷上使用点质量混合先验，以诱导稀疏性，并将零载荷视为变量选择问题。
• 采用定制的MCMC算法，结合可逆跳跃MCMC与辅助性-充分性交错策略（ASIS），实现高效的后验计算。
• 对方差分量采用分数阶与广义逆高斯（GIG）工作先验，以提升MCMC的稳定性和收敛性。
• 利用边际数据增广与后验后处理技术，同时总结因子数量与载荷矩阵。
• 通过共轭与条件共轭先验，推导出载荷、因子与方差分量的条件后验分布。

实验结果

研究问题

• RQ1 当因子数量未知时，如何在稀疏贝叶斯因子模型中形式化建立可识别性？
• RQ2 何种约束足以确保因子模型中方差分解的唯一性，并解决旋转不变性问题？
• RQ3 能否利用贝叶斯非参数技术，在过度拟合的稀疏因子模型中一致估计公共因子数量？
• RQ4 如何将点质量混合先验与高效MCMC采样相结合，以同时估计因子数量与稀疏载荷？
• RQ5 分数阶与GIG先验在高维设置中对稳定后验推断及避免Heywood问题起到何种作用？

主要发现

• 对非零载荷数量的计数规则被确立为实现因子模型方差分解唯一性的充分条件。
• 广义下三角约束使得在过度拟合的稀疏因子模型中，能够一致恢复未知的公共因子数量。
• 所提出的结合ASIS与点质量先验的MCMC方案，在高维数据中成功识别了因子数量与稀疏载荷。
• 在22种汇率与73只NYSE100股票上的实证结果表明，后验估计稳定，因子选择准确，误发现率较低。
• 使用广义逆高斯（GIG）工作先验相比逆伽玛或伽玛先验，能带来更稳定的MCMC收敛性。
• 通过后处理获得的后验总结提供了可靠的因子数量估计，该方法有效避免了Heywood问题与秩亏缺陷。