[论文解读] Variational Bayesian modelling of mixed-effects

Jean Daunizeau|arXiv (Cornell University)|Mar 21, 2019

Statistical Methods and Bayesian Inference参考文献 13被引用 4

一句话总结

本文提出了一种变分贝叶斯框架，用于群体研究中的混合效应建模，能够高效估计组内和组间效应。通过采用类似经验贝叶斯的迭代自适应正则化过程，该方法在保持计算效率的同时，提升了统计功效，并捕捉了个体间差异。

ABSTRACT

This note is concerned with an accurate and computationally efficient variational bayesian treatment of mixed-effects modelling. We focus on group studies, i.e. empirical studies that report multiple measurements acquired in multiple subjects. When approached from a bayesian perspective, such mixed-effects models typically rely upon a hierarchical generative model of the data, whereby both within- and between-subject effects contribute to the overall observed variance. The ensuing VB scheme can be used to assess statistical significance at the group level and/or to capture inter-individual differences. Alternatively, it can be seen as an adaptive regularization procedure, which iteratively learns the corresponding within-subject priors from estimates of the group distribution of effects of interest (cf. so-called "empirical bayes" approaches). We outline the mathematical derivation of the ensuing VB scheme, whose open-source implementation is available as part the VBA toolbox.

研究动机与目标

• 解决神经影像学和心理学群体研究中贝叶斯混合效应建模面临的计算与统计挑战。
• 开发一种可扩展的变分推断方法，以处理同时包含组内与组间方差分量的层次化数据结构。
• 在量化个体间差异的同时，实现稳健的群体水平推断。
• 将经验贝叶斯原理整合到变分贝叶斯框架中，自适应地从群体水平数据学习组内先验分布。
• 为大规模研究中的混合效应模型提供一种计算高效的马尔可夫链蒙特卡洛方法替代方案。

提出的方法

• 构建一个层次化生成模型，将群体水平效应与受试者水平效应均建模为随机效应。
• 应用变分贝叶斯推断，通过均值场分解近似模型参数的后验分布。
• 利用坐标上升变分推断（CAVI）推导超先验与随机效应的更新方程。
• 基于估计的群体水平分布，利用经验贝叶斯原理迭代更新组内先验。
• 在VBA（用于fMRI分析的变分贝叶斯）工具箱中实现该算法，以确保开放获取与可复现性。
• 通过避免完整的MCMC采样，在保持参数估计准确性的同时确保计算效率。

实验结果

研究问题

• RQ1 如何在具有复杂层次结构的群体研究混合效应模型中有效应用变分贝叶斯推断？
• RQ2 与经典方法相比，所提出的方法在检测群体水平效应时，其统计功效与准确性提升程度如何？
• RQ3 该方法是否能够在保持计算可处理性的前提下，可靠地捕捉效应的个体间差异？
• RQ4 通过经验贝叶斯原理实现的自适应正则化，在小到中等样本量设置下如何提升模型性能？
• RQ5 在该变分框架中，计算效率与估计准确性之间的权衡如何？

主要发现

• 所提出的变分贝叶斯方法在计算成本显著低于MCMC的前提下，实现了对固定效应与随机效应的精确估计。
• 该方法能有效捕捉感兴趣效应的个体间变异性，从而支持对群体水平数据的更细致解读。
• 通过整合经验贝叶斯原理，该方法能基于群体分布自适应调整组内先验，提升估计稳定性。
• 在VBA工具箱中的开源实现确保了可复现性，并促进了神经影像学与心理学研究社区的广泛应用。
• 由于改进的正则化与收缩机制，该框架在样本量有限的情况下仍能有效检测群体水平效应。
• 通过模拟研究与真实数据应用验证，该方法在后验近似方面保持了高精度。