[论文解读] Deep Hyperalignment

Muhammad Yousefnezhad, Daoqiang Zhang|arXiv (Cornell University)|Oct 11, 2017

Functional Brain Connectivity Studies被引用 3

一句话总结

本文提出深度超对齐（DHA），一种深度、参数化且可扩展的超对齐方法，用于多被试fMRI分析。该方法通过低秩m SVD和随机梯度下降（SGD）实现可学习的深度核函数。DHA在功能对齐准确率和运行效率方面均优于当前最先进方法，尤其在高维、非线性及大规模fMRI数据集上表现优异，且在推理时无需访问训练数据。

ABSTRACT

This paper proposes Deep Hyperalignment (DHA) as a regularized, deep extension, scalable Hyperalignment (HA) method, which is well-suited for applying functional alignment to fMRI datasets with nonlinearity, high-dimensionality (broad ROI), and a large number of subjects. Unlink previous methods, DHA is not limited by a restricted fixed kernel function. Further, it uses a parametric approach, rank-$m$ Singular Value Decomposition (SVD), and stochastic gradient descent for optimization. Therefore, DHA has a suitable time complexity for large datasets, and DHA does not require the training data when it computes the functional alignment for a new subject. Experimental studies on multi-subject fMRI analysis confirm that the DHA method achieves superior performance to other state-of-the-art HA algorithms.

研究动机与目标

• 解决现有超对齐（HA）方法在处理fMRI数据中非线性、高维性及大量被试时的局限性。
• 克服核超对齐（KHA）中固定核函数的限制以及基于卷积自编码器的方法（CAE）的高时间复杂度问题。
• 开发一种参数化、基于深度学习的功能对齐框架，实现在新被试上无需微调即可高效推理。
• 在多被试fMRI数据集上实现功能对齐与下游分类任务的最先进性能。

提出的方法

• 提出深度超对齐（DHA）作为超对齐的深度、参数化扩展，采用多层神经网络作为可学习的核函数。
• 将DHA形式化为使用随机梯度下降（SGD）优化的正则化多集典型相关分析（DCCA）。
• 采用低秩m奇异值分解（SVD）以降低维度并加速优化，从而实现对大规模数据集的可扩展性。
• 在训练和推理过程中使用增量SVD以进一步降低时间复杂度。
• 通过深度网络学习被试特定的非线性变换，解耦对齐过程，实现映射到共享公共表示空间。
• 通过学习到的参数化变换架构确保推理效率，避免在对齐新被试时访问训练数据。

实验结果

研究问题

• RQ1 与KHA等固定核函数方法相比，深度参数化核函数是否能提升在非线性、高维fMRI数据上的功能对齐性能？
• RQ2 在大规模多被试fMRI数据集上，DHA的可扩展性与运行时性能相较于CAE和SVDHA等最先进方法表现如何？
• RQ3 当结合特征选择与多标签ν-SVM时，DHA在下游分类任务中的准确率提升程度如何？
• RQ4 DHA是否能在推理阶段无需原始训练数据的情况下实现高对齐准确率，从而支持在新被试上的高效部署？
• RQ5 在DHA中使用低秩m SVD与SGD是否能显著降低时间复杂度，同时保持对齐质量？

主要发现

• 在DS105与DS107 fMRI数据集上，DHA在功能对齐性能上均优于当前最先进方法，包括SVDHA、SRM与CAE。
• 在DS105数据集（《 Forrest Gump》）上，DHA在所有测试的ROI大小（每半球100至1200个体素）与TR数量（100至2000）下均优于所有基线方法。
• 在DS107数据集（《夺宝奇兵》）上，DHA在使用压缩特征集（减少至原始特征的60%）时，分类准确率持续高于SVDHA、SRM与CAE。
• DHA的运行时间显著低于CAE与SL类方法，其运行时间被用作对比分析的基准单位，表明其具有卓越的计算效率。
• 即使在大幅减少特征数量的情况下，DHA仍保持高性能，表明其通过深度核函数实现了鲁棒且紧凑的表征学习。
• 由于其参数化与学习到的变换架构，DHA可在无需微调或访问原始训练数据的情况下，实现对新被试的高效推理。