[論文レビュー] Learning Through Time in the Thalamocortical Loops

Randall C. O’Reilly, Dean Wyatte+1 more|arXiv (Cornell University)|Jul 13, 2014

Neural dynamics and brain function参考文献 90被引用数 38

ひとこと要約

本稿では、縁側皮質ループと10 Hzのアルファ周波数の揺らぎを活用して、新皮質における時間的統合を通じた予測学習を可能にする生物学的に根拠のあるフレームワーク、LeabraTIを提案する。時間の離散化を、層5bの内在的発火ニューロンの周期的活動によって行い、動的時間的文脈表現を維持することで、誤差駆動学習を可能にし、ごみだらけの視覚的シーンにおける物体の軌道の正確な予測を実現する。

ABSTRACT

We present a comprehensive, novel framework for understanding how the neocortex, including the thalamocortical loops through the deep layers, can support a temporal context representation in the service of predictive learning. Many have argued that predictive learning provides a compelling, powerful source of learning signals to drive the development of human intelligence: if we constantly predict what will happen next, and learn based on the discrepancies from our predictions (error-driven learning), then we can learn to improve our predictions by developing internal representations that capture the regularities of the environment (e.g., physical laws governing the time-evolution of object motions). Our version of this idea builds upon existing work with simple recurrent networks (SRN's), which have a discretely-updated temporal context representations that are a direct copy of the prior internal state representation. We argue that this discretization of temporal context updating has a number of important computational and functional advantages, and further show how the strong alpha-frequency (10hz, 100ms cycle time) oscillations in the posterior neocortex could reflect this temporal context updating. We examine a wide range of data from biology to behavior through the lens of this LeabraTI model, and find that it provides a unified account of a number of otherwise disconnected findings, all of which converge to support this new model of neocortical learning and processing. We describe an implemented model showing how predictive learning of tumbling object trajectories can facilitate object recognition with cluttered backgrounds.

研究の動機と目的

• 新皮質における時間的統合の生物学的に妥当なメカニズムを構築すること。
• 後頭新皮質におけるアルファ周波数（10 Hz）の揺らぎが、縁側皮質ループにおける離散的時間的文脈の更新をどのように規定するかを説明すること。
• アルファリズムの調節や離散的知覚といった、多様な神経生物学的および行動的知見を、予測学習のための統一的計算フレームワークに統合すること。
• 本モデルの計算的パワーが、ごみだらけの条件下でも現実世界の視覚認識タスクを解く能力を示すこと。
• Leabraフレームワークに時間的統合メカニズム（LeabraTI）を拡張し、予測誤差に基づく誤差駆動学習を可能にすること。

提案手法

• 時間の離散化フレームワークを用い、各アルファサイクル（100 ms）ごとに時間的文脈を更新することで、予測と誤差信号のための「プラスマイナス」位相構造を模倣する。
• 層5bの内在的発火ピラミッドニューロンがアルファ周波数で発火し、縁側皮質ループを通じて縁側に至る層6の通常発火ニューロンの更新を引き起こす。
• 縁側皮質ループは、過去の文脈を持続的に表現し、学習された時間的規則性に基づいて、将来の入力を予測可能にする。
• 誤差駆動学習はLeabraフレームワークにより実装され、浅層での予測誤差が深層でのシナプス可塑性を指揮する。
• 活性化が集団スパイクレートを反映する微小柱レベルのユニットを統合し、位相ロック信号を通じて層間での学習を調整する。
• シミュレーションにより、ごみだらけの視覚的表示における回転物体の軌道の予測学習が実証され、認識性能の向上が示された。

実験結果

リサーチクエスチョン

• RQ1 縁側皮質ループは、新皮質における生物学的に妥当な時間的文脈表現メカニズムをどのようにサポートするか？
• RQ2 アルファ周波数（10 Hz）の揺らぎは、予測学習のための離散的時間窓をどのように組織化するか？
• RQ3 提示されたLeabraTIフレームワークは、アルファリズムの調節や離散的知覚といった、異なる知見をどのように統一的かつ一貫した計算枠組みで統合するか？
• RQ4 周期的な時間更新と誤差駆動学習に基づくモデルが、ごみだらけの環境でも高精度な視覚的物体認識を達成できるか？
• RQ5 前頭前野におけるベータリズムや海馬におけるスパイクリズムといった、異なる脳リズムは、予測学習における時間的統合 timescales にどのように関係するか？

主な発見

• LeabraTIモデルは、ごみだらけの視覚的シーンにおいても、回転物体の軌道を効果的に予測する能力を示し、干渉要因があっても頑健な性能を発揮した。
• アルファ周波数の揺らぎ（10 Hz）は、観察された神経的および行動的データに基づく知覚サンプリングと整合する自然な時間的離散化メカニズムを提供する。
• モデルの時間的文脈表現は、再帰的縁側皮質ループを通じて維持され、層5bの発火ニューロンが予測の更新を時計として機能する。
• 浅層で計算された予測誤差が深層でのシナプス可塑性を駆動し、長期的な予測精度を向上させる誤差駆動学習を可能にする。
• モデルは、位相ロック信号を通じて微小柱活動を層間で調整できることを説明し、皮質微小柱全体での一貫性のある学習を支援する。
• このフレームワークは、アルファリズムの調節、知覚の離散化、予測コーディングといった多様な知見を、生物学的に妥当なメカニズムの下で統一的に説明可能である。