[论文解读] Perturbed factor analysis: Improving generalizability across studies

Arkaprava Roy, Isaac Lavine+2 more|arXiv (Cornell University)|Oct 7, 2019

Mental Health Research Topics被引用 4

一句话总结

本文提出扰动因子分析（PFA），一种贝叶斯因子模型，通过在因子分析前对数据应用特定于研究的扰动矩阵，提升模型在不同研究间的泛化能力。与具有独立研究特异性因子的模型不同，PFA在保持共同因子结构的同时，允许灵活且数据驱动的扰动，从而降低泛化误差，并在多研究及单研究设置下增强可识别性。

ABSTRACT

Factor analysis is routinely used for dimensionality reduction. However, a major issue is `brittleness' in which one can obtain substantially different factors in analyzing similar datasets. Factor models have been developed for multi-study data by using additive expansions incorporating common and study-specific factors. However, allowing study-specific factors runs counter to the goal of producing a single set of factors that hold across studies. As an alternative, we propose a class of Perturbed Factor Analysis (PFA) models that assume a common factor structure across studies after perturbing the data via multiplication by a study-specific matrix. Bayesian inference algorithms can be easily modified in this case by using a matrix normal hierarchical model for the perturbation matrices. The resulting model is just as flexible as current approaches in allowing arbitrarily large differences across studies, but has substantial advantages that we illustrate in simulation studies and an application to NHANES data. We additionally show advantages of PFA in single study data analyses in which we assign each individual their own perturbation matrix, including reduced generalization error and improved identifiability.

研究动机与目标

• 解决传统因子分析的脆弱性问题，即相似数据集会产生显著不同的因子。
• 开发一种在不同研究间保持共同因子结构的同时，允许研究特异性差异的模型。
• 提升因子分析中的泛化能力和可识别性，特别是在多研究和单研究数据设置下。
• 为现有包含独立研究特异性因子的多研究因子模型，提供一种灵活且一致的替代方案。

提出的方法

• 提出一种扰动因子分析（PFA）模型，其中数据在因子分析前通过乘以特定于研究的扰动矩阵进行变换。
• 为扰动矩阵使用矩阵正态层次先验，以实现具有共享超参数的贝叶斯推断。
• 通过将研究特异性变异吸收进扰动矩阵，保持研究间共同的因子结构。
• 通过将扰动矩阵整合进层次模型结构，对标准贝叶斯推断算法进行适应性调整。
• 在单研究数据中应用相同框架，为每个个体分配其自身的扰动矩阵。
• 在不牺牲可解释性或共同因子结构的前提下，灵活建模跨研究差异。

实验结果

研究问题

• RQ1 因子模型是否能在保持研究间共同因子结构的同时，允许数据模式存在显著差异？
• RQ2 PFA在泛化性能和可识别性方面与现有多研究因子模型相比如何？
• RQ3 在单研究数据中为个体分配特异性扰动矩阵，是否能降低泛化误差并提升模型可识别性？
• RQ4 扰动矩阵结构对提取因子的稳定性和可解释性有何影响？

主要发现

• PFA在捕捉研究间显著差异方面，灵活性与现有多研究因子模型相当，同时保持单一共同因子结构。
• 模拟研究显示，与标准因子分析相比，PFA在多研究和单研究设置下均能降低泛化误差。
• 通过避免独立研究特异性因子带来的混淆效应，模型提升了可识别性。
• 在单研究应用中，个体水平的扰动矩阵可产生更稳定且更具泛化能力的因子估计。
• PFA的贝叶斯推断框架计算上可行，且可轻松适配现有算法。
• 在NHANES数据上的应用验证了该模型在真实世界多研究场景下的鲁棒性和性能提升。