[论文解读] Learning Discriminative Bayesian Networks from High-dimensional Continuous Neuroimaging Data

Luping Zhou, Lei Wang+3 more|arXiv (Cornell University)|Jun 23, 2015

Bayesian Modeling and Causal Inference被引用 5

一句话总结

本文提出了两种判别式学习框架——基于Fisher核与基于最大间隔的框架——用于高斯贝叶斯网络（GBN），以提升在高维神经影像数据上的分类性能。通过将支持向量机（SVM）的一般化误差界与最大间隔优化整合进GBN参数学习，该方法在保持结构可解释性的同时增强了判别能力，在早期阿尔茨海默病（AD）预测中实现了最高10%的准确率提升，并验证了关键脑区连接性的变化。

ABSTRACT

Due to its causal semantics, Bayesian networks (BN) have been widely employed to discover the underlying data relationship in exploratory studies, such as brain research. Despite its success in modeling the probability distribution of variables, BN is naturally a generative model, which is not necessarily discriminative. This may cause the ignorance of subtle but critical network changes that are of investigation values across populations. In this paper, we propose to improve the discriminative power of BN models for continuous variables from two different perspectives. This brings two general discriminative learning frameworks for Gaussian Bayesian networks (GBN). In the first framework, we employ Fisher kernel to bridge the generative models of GBN and the discriminative classifiers of SVMs, and convert the GBN parameter learning to Fisher kernel learning via minimizing a generalization error bound of SVMs. In the second framework, we employ the max-margin criterion and build it directly upon GBN models to explicitly optimize the classification performance of the GBNs. The advantages and disadvantages of the two frameworks are discussed and experimentally compared. Both of them demonstrate strong power in learning discriminative parameters of GBNs for neuroimaging based brain network analysis, as well as maintaining reasonable representation capacity. The contributions of this paper also include a new Directed Acyclic Graph (DAG) constraint with theoretical guarantee to ensure the graph validity of GBN.

研究动机与目标

• 为解决生成式贝叶斯网络在捕捉临床人群间细微、关键差异方面的局限性，特别是在神经影像中的应用。
• 在不牺牲其表征能力的前提下，增强高斯贝叶斯网络（GBN）对连续神经影像变量的判别能力。
• 提出一种理论基础坚实的DAG约束，确保在判别式学习过程中网络结构的有效性与无环性。
• 利用高维MRI数据，实现对早期阿尔茨海默病（AD）预测的有效脑有效连接建模。
• 在真实神经影像数据上，对比并验证两种不同的判别式学习框架——Fisher核与最大间隔方法。

提出的方法

• 提出KL-SGBN，利用Fisher核将GBN参数学习与SVM一般化误差最小化相连接，将GBN学习转化为具有边界感知的优化问题。
• 开发MM-SGBN，直接在GBN框架中嵌入最大间隔准则，以在参数学习过程中优化分类性能。
• 提出一种新颖的DAG约束，具有理论保证，确保在GBN参数迭代优化过程中保持无环性与结构有效性。
• 采用单阶段学习流程，通过LASSO正则化联合估计父节点集与参数，以实现稀疏性与稳定性。
• 在KL-SGBN框架中，将向量化SGBN网络作为SVM的输入特征，实现端到端的判别式优化。
• 将两种框架应用于基于MRI的脑连接性数据，比较NC与MCI群体在边权变化与分类准确率方面的差异。

实验结果

研究问题

• RQ1 Fisher核学习能否有效连接生成式GBN模型与判别式SVM，从而提升神经影像数据的分类性能？
• RQ2 在GBN框架中直接优化最大间隔准则，是否能比传统生成式学习带来更好的分类性能？
• RQ3 在判别能力、结构稳定性与计算效率方面，两种所提框架如何比较？
• RQ4 所提出的DAG约束是否能通过理论保证，在判别式参数学习过程中确保网络结构的有效性？
• RQ5 判别式GBN模型在早期阿尔茨海默病进展中揭示了哪些具有临床意义的连接性变化？

主要发现

• MM-SGBN框架相比基线模型实现了10%的测试准确率提升，证明其具有优越的判别性能。
• 在MCI患者中观察到颞叶连接性显著下降（减少24%），海马体连接性降低，与已知的AD病理一致。
• 在MCI患者中观察到额叶与颞叶之间连接性增强，提示在早期AD中可能存在代偿性机制。
• 在双侧海马体（左侧节点35与右侧节点38）均检测到方向性变化，表现为MCI患者中输入连接减少、输出连接增加，提示网络动力学发生改变。
• KL-SGBN与MM-SGBN在边权变化的符号模式上表现相似，但MM-SGBN通过更有效地调整偏置节点权重，实现了更高的准确率。
• 所提出的DAG约束在所有优化步骤中均成功维持了图结构的有效性，且在基准数据上通过理论与实证验证。