[论文解读] Generative Models of Brain Dynamics -- A review

Mahta Ramezanian Panahi, Germán Abrevaya+4 more|arXiv (Cornell University)|Dec 22, 2021

Neural Networks and Applications被引用 5

一句话总结

本综述提出生成模型——尤其是混合生物物理、现象学和数据驱动的方法——作为建模脑动态的更优框架，通过整合先验知识与数据驱动学习。它强调通用微分方程（UDEs）和GOKU网络是关键方法，通过将已知物理定律和微分方程嵌入神经网络架构中，提升了神经动态建模的可解释性、合理性与泛化能力。

ABSTRACT

The principled design and discovery of biologically- and physically-informed models of neuronal dynamics has been advancing since the mid-twentieth century. Recent developments in artificial intelligence (AI) have accelerated this progress. This review article gives a high-level overview of the approaches across different scales of organization and levels of abstraction. The studies covered in this paper include fundamental models in computational neuroscience, nonlinear dynamics, data-driven methods, as well as emergent practices. While not all of these models span the intersection of neuroscience, AI, and system dynamics, all of them do or can work in tandem as generative models, which, as we argue, provide superior properties for the analysis of neuroscientific data. We discuss the limitations and unique dynamical traits of brain data and the complementary need for hypothesis- and data-driven modeling. By way of conclusion, we present several hybrid generative models from recent literature in scientific machine learning, which can be efficiently deployed to yield interpretable models of neural dynamics.

研究动机与目标

• 通过倡导支持假设检验与机制理解的生成模型，解决黑箱机器学习模型在神经科学中的局限性。
• 将不同尺度与抽象层次的建模方法——生物物理、现象学与无假设——整合为脑动态的统一框架。
• 强调在临床与认知神经科学中，模型需在归纳偏置、数据稀缺性与生物学合理性之间取得平衡。
• 展示混合生成模型如何提升神经数据建模中的可解释性、泛化能力与科学可重复性。
• 为研究人员提供路线图，根据数据可用性与科学目标选择合适的建模尺度与抽象层次。

提出的方法

• 将生成模型分为三个领域：生物物理（整合生物学约束）、现象学（基于观测动态）与无假设（数据驱动且假设最少）。
• 引入通用微分方程（UDEs），利用神经网络学习已知偏微分方程中未知项，保持物理定律不变。
• 提出GOKU网络作为变分自编码器，其潜在空间中显式嵌入已知微分方程（如Kuramoto方程、van der Pol方程），实现先验知识整合，且无需直接观测状态变量。
• 提出将符号回归（如SINDy）与UDE中的神经网络结合，以加速从有限数据中发现动力学。
• 采用混合架构，将微分方程嵌入深度学习流程中，确保物理一致性与可解释性。
• 倡导在多个尺度上建模——从单个神经元到全脑网络——采用基于原理与假设驱动的框架。

实验结果

研究问题

• RQ1 与标准黑箱机器学习相比，生成模型在提升神经动态建模的可解释性与科学可重复性方面有何优势？
• RQ2 生物物理、现象学与无假设建模方法在捕捉脑动态方面有何关键差异？
• RQ3 神经动态与典型物理动力系统有何不同？模型应如何适应这些差异？
• RQ4 在有限且含噪声的神经数据下，如何通过整合先验知识的混合生成架构实现有效建模？
• RQ5 UDEs与GOKU网络在从稀疏或不完美数据中加速发现神经动态方面，其潜力有多大？

主要发现

• 特别是通过微分方程整合先验知识的生成模型，相比纯粹预测性的黑箱模型，提供了更优的可解释性与科学洞见。
• UDEs通过学习已知PDE中缺失项，实现对未知动态的精确建模，在结合符号回归时，即使数据有限也能显著提升性能。
• GOKU网络允许在潜在空间中使用已知动力系统（如van der Pol方程）而无需直接观测状态变量，从而增强模型的合理性。
• 如UDEs与GOKU网络等混合生成模型，通过将生物物理与现象学约束嵌入深度学习架构，实现了更好的泛化能力与科学实用性。
• 通过生成建模整合神经科学、动力系统理论与人工智能，可形成可检验的假设，并催生新的科学问题。
• 尽管神经记录存在数据稀缺与噪声问题，这些模型仍能跨尺度生成生物学合理且可重复的神经动态表征。