[論文レビュー] Generative Models of Brain Dynamics -- A review

Mahta Ramezanian Panahi, Germán Abrevaya+4 more|arXiv (Cornell University)|Dec 22, 2021

Neural Networks and Applications被引用数 5

ひとこと要約

本レビューでは、事前知識とデータ駆動型学習を統合することで、脳の動的挙動をモデリングするための優れたフレームワークとして、特にハイブリッドな生体力学的・現象論的・データ駆動型アプローチを提案する。特に、普遍的微分方程式（UDEs）とGOKU-netsが、ニューラルネットワークのアーキテクチャ内に既知の物理法則や微分方程式を埋め込むことで、解釈可能性、妥当性、一般化性能を向上させるキーメソッドであると強調している。

ABSTRACT

The principled design and discovery of biologically- and physically-informed models of neuronal dynamics has been advancing since the mid-twentieth century. Recent developments in artificial intelligence (AI) have accelerated this progress. This review article gives a high-level overview of the approaches across different scales of organization and levels of abstraction. The studies covered in this paper include fundamental models in computational neuroscience, nonlinear dynamics, data-driven methods, as well as emergent practices. While not all of these models span the intersection of neuroscience, AI, and system dynamics, all of them do or can work in tandem as generative models, which, as we argue, provide superior properties for the analysis of neuroscientific data. We discuss the limitations and unique dynamical traits of brain data and the complementary need for hypothesis- and data-driven modeling. By way of conclusion, we present several hybrid generative models from recent literature in scientific machine learning, which can be efficiently deployed to yield interpretable models of neural dynamics.

研究の動機と目的

• 神経科学におけるブラックボックス型機械学習モデルの限界を克服するため、仮説検証と機構的理解を支援する生成モデルの導入を提唱すること。
• 生体力学的、現象論的、およびアーギョス（仮説なし）の異なるスケールと抽象化レベルのモデリング手法を統合し、脳の動的挙動を統一的なフレームワークで統合すること。
• 臨床的および認知神経科学分野において、誘導的バイアス、データ不足、生物学的妥当性のバランスを取るモデルの必要性を強調すること。
• ハイブリッド生成モデルが、神経データ解析における解釈可能性、一般化性能、科学的再現可能性をどのように向上させるかを示すこと。
• 研究者がデータの可用性と科学的目標に基づいて、適切なモデリングスケールと抽象化レベルを選択するためのロードマップを提供すること。

提案手法

• 生成モデルを3つの分野に分類する：生体力学的（生物学的制約を組み込む）、現象論的（観察された動的挙動に基づく）、アーギョス（最小限の仮定でデータ駆動型）。
• 既知の偏微分方程式における未知の項を学習するためのニューラルネットワークを用いる普遍的微分方程式（UDEs）を導入し、物理法則を保持する。
• 潜在空間に明示的かつ既知の微分方程式（例：カーマン方程式、ヴァン・デル・ポール方程式）を組み込んだ変分オートエンコーダーとしてのGOKU-netsを提示し、状態変数の直接観測が不要な状態で事前知識を統合可能にする。
• UDEsにおいてシンボリック回帰（例：SINDy）とニューラルネットワークを組み合わせることで、限られたデータからの動的挙動の発見を加速する。
• 微分方程式をディープラーニングパイプライン内に埋め込むハイブリッドアーキテクチャを用い、物理的整合性と解釈可能性を保証する。
• 単一ニューロンから全脳ネットワークまで、原理的かつ仮説駆動型のフレームワークを用いた複数スケールでのモデリングを提唱する。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックス型機械学習と比較して、生成モデルは神経動的挙動の解釈可能性と科学的再現可能性をどのように向上させるか？
• RQ2 生体力学的、現象論的、アーギョスなモデリングアプローチの主な違いは、脳の動的挙動を捉える上でどのような点に現れるか？
• RQ3 神経動的挙動は、標準的な物理的動的システムとどのように異なるのか。モデルはその差異にどのように適合すべきか？
• RQ4 限られたノイズの多い神経データを、事前知識を統合したハイブリッド生成アーキテクチャで効果的にモデリングする方法は何か？
• RQ5 UDEsとGOKU-netsは、スパarsなまたは不完全なデータから神経動的挙動をどれほど速やかに発見できるか？

主な発見

• 微分方程式による事前知識の統合を図る生成モデルは、純粋に予測を目的とするブラックボックス型モデルと比較して、はるかに優れた解釈可能性と科学的洞察を提供する。
• UDEsは、既知の偏微分方程式における未知の項を学習することで、限られたデータでも性能を著しく向上させ、特にシンボリック回帰と組み合わせることで効果を発揮する。
• GOKU-netsは、状態変数の直接観測が不要な状態で、既知の力学系（例：ヴァン・デル・ポール方程式）を潜在空間に組み込むことができ、モデルの妥当性を高める。
• UDEs や GOKU-nets などのハイブリッド生成モデルは、ディープラーニングアーキテクチャ内に生体力学的および現象論的制約を埋め込むことで、より優れた一般化性能と科学的有用性を達成する。
• 生成モデリングを通じて神経科学、力学系理論、人工知能が統合され、検証可能な仮説の立案と新たな科学的問いの生成が可能になる。
• 神経記録におけるデータ不足やノイズの問題が存在する中でも、これらのモデルはスケールを問わず生物学的に妥当で再現可能な神経動的挙動の表現を提供できる。