[论文解读] Supervised Autoencoders Learn Robust Joint Factor Models of Neural Activity.

Austin Talbot, David B. Dunson+2 more|arXiv (Cornell University)|Apr 10, 2020

Functional Brain Connectivity Studies参考文献 55被引用 9

一句话总结

本文提出了一种监督自编码器框架，通过将潜在因子建模为高维神经预测因子的灵活函数，联合优化大脑活动的方差解释和行为结果的预测。与传统的最大似然因子模型不同，这种基于函数的方法对模型误设具有鲁棒性，并在合成数据和真实神经科学数据中实现了更优的行为预测性能。

ABSTRACT

Factor models are routinely used for dimensionality reduction in modeling of correlated, high-dimensional data. We are particularly motivated by neuroscience applications collecting high-dimensional `predictors' corresponding to brain activity in different regions along with behavioral outcomes. Joint factor models for the predictors and outcomes are natural, but maximum likelihood estimates of these models can struggle in practice when there is model misspecification. We propose an alternative inference strategy based on supervised autoencoders; rather than placing a probability distribution on the latent factors, we define them as an unknown function of the high-dimensional predictors. This mapping function, along with the loadings, can be optimized to explain variance in brain activity while simultaneously being predictive of behavior. In practice, the mapping function can range in complexity from linear to more complex forms, such as splines or neural networks, with the usual tradeoff between bias and variance. This approach yields distinct solutions from a maximum likelihood inference strategy, as we demonstrate by deriving analytic solutions for a linear Gaussian factor model. Using synthetic data, we show that this function-based approach is robust against multiple types of misspecification. We then apply this technique to a neuroscience application resulting in substantial gains in predicting behavioral tasks from electrophysiological measurements in multiple factor models.

研究动机与目标

• 为解决在模型误设条件下，联合神经活动与行为因子模型中最大似然推断的局限性。
• 开发一种灵活的基于函数的方法，用于学习潜在因子，同时解释神经活动方差并预测行为结果。
• 在模型误设存在的情况下，证明该方法相比标准因子模型具有更高的鲁棒性和预测性能。
• 提供一种实用且可扩展的方法，用于在神经科学中联合建模高维神经预测因子与行为结果。

提出的方法

• 将潜在因子定义为高维神经预测因子的未知函数，而非假设其服从参数分布。
• 训练一种监督自编码器，其中编码器将预测因子映射到潜在因子，解码器重建神经活动，另设一个分支用于预测行为结果。
• 联合优化编码器和载荷，以最小化神经数据的重建误差和行为结果的预测误差。
• 允许编码器函数从线性到复杂形式（如样条函数、神经网络）变化，以平衡偏差与方差。
• 推导线性高斯情况下的解析解，以便与最大似然推断进行比较。
• 使用合成数据评估模型对多种类型模型误设的鲁棒性。

实验结果

研究问题

• RQ1 在模型误设的鲁棒性方面，基于函数的因子模型与最大似然推断相比表现如何？
• RQ2 监督自编码器框架是否能比标准联合因子模型更有效地联合优化神经活动重建与行为预测？
• RQ3 编码器函数复杂度的变化（如线性与非线性）对预测性能和鲁棒性有何影响？
• RQ4 该方法在真实电生理数据中预测行为任务的表现如何？

主要发现

• 所提出的基于函数的方法在模型误设情况下与最大似然推断得到截然不同的解。
• 合成实验表明，该方法对多种类型的模型误设具有鲁棒性，优于标准似然方法。
• 在真实神经科学数据中，监督自编码器方法在从电生理测量预测行为任务方面实现了显著提升。
• 该方法在预测准确性方面优于传统因子模型，实现了对神经预测因子与行为结果的联合建模。