[論文レビュー] Sequential Memory with Temporal Predictive Coding

Mufeng Tang, Helen C. Barron+1 more|PubMed|May 19, 2023

Neural dynamics and brain function参考文献 37被引用数 8

ひとこと要約

この論文は逐次記憶のための時系列予測符号化（tPC）を導入し、生物学的に妥当なニューラル実装で系列を記憶・想起できることを示し、tPCにおけるホワイトニングが古典的非対称ホップフィールドネットワークに比べ安定した想起をもたらすことを示しています。

ABSTRACT

Forming accurate memory of sequential stimuli is a fundamental function of biological agents. However, the computational mechanism underlying sequential memory in the brain remains unclear. Inspired by neuroscience theories and recent successes in applying predictive coding (PC) to <i>static</i> memory tasks, in this work we propose a novel PC-based model for <i>sequential</i> memory, called <i>temporal predictive coding</i> (tPC). We show that our tPC models can memorize and retrieve sequential inputs accurately with a biologically plausible neural implementation. Importantly, our analytical study reveals that tPC can be viewed as a classical Asymmetric Hopfield Network (AHN) with an implicit statistical whitening process, which leads to more stable performance in sequential memory tasks of structured inputs. Moreover, we find that tPC exhibits properties consistent with behavioral observations and theories in neuroscience, thereby strengthening its biological relevance. Our work establishes a possible computational mechanism underlying sequential memory in the brain that can also be theoretically interpreted using existing memory model frameworks.

研究の動機と目的

• 脳が時間的系列の記憶を形成するメカニズムを動機づけ、モデル化する。
• 生物学的に妥当な実装を伴う時系列予測符号化フレームワークを開発する。
• tPCとホワイトニングを伴う非対称ホップフィールドネットワーク（AHN）との理論的性質を分析する。
• 構造化された逐次データ上で従来の記憶モデルよりもtPCの経験的優位性を示す。
• 既知の連鎖想起現象に適合させ、文脈表現を探究することで行動的関連性を示す。

提案手法

• 静的PCの時系列拡張として、系列の記憶モデルとしての時系列予測符号化（tPC）を提案する。
• 局所的推論によるリコールを可能にし、時間予測誤差を最小化する単一層tPCを導出し、 Hebbian則で学習する。
• 単一層tPCが非対称ホップフィールドネットワーク（AHN）のホワイトニングされた内積形と同値であることを示す。
• 文脈とダイナミクスを捉える隠れ層を持つ2層tPCへ拡張し、文脈依存表現を可能にする。
• 時間予測のための価値ニューロン群と誤差信号ニューロン群、遅延機構を持つ神経実装のスケッチを提供する。
• 構造化された逐次データ上でtPCをAHNおよび現代的な連続AHNと比較し、認知地図様の表現との関連を示す。

Figure 1: Neural implementations of the tPC models. A: single-layer tPC. B: 2-layer tPC.

実験結果

リサーチクエスチョン

• RQ1 時系列依存性を持つ系列を生物学的に妥当な方法で記憶・想起できるか？
• RQ2 想起時にtPCは暗黙的にパターンをホワイトニングし、従来のAHNより安定性を改善するか？
• RQ3 階層的な2層tPCは文脈依存表現をどのように発展させ、学習した系列ダイナミクスを一般化するか？
• RQ4 tPCモデルは primacy/recency 効果や系列長効果などの既知の連鎖想起現象を再現するか？
• RQ5 tPCは連続的な記憶における認知地図や文脈表現への洞察を提供できるか？

主な発見

• 単一層tPCはAHNのホワイトニング強化版として作用し、相関のあるまたは構造化された系列での安定性を向上させる。
• tPCのホワイトニングは入力を暗黙的にデコリレートし、基本的なAHNやいくつかのMCAHN変種より自然に近い系列で想起容量を改善する。
• 二層tPCは文脈依存表現を発展させ、エイリアシングされた入力の解包を助け、次の手の想起を正しく支援する。
• tPCは連鎖想起における系列長の影響や primacy/recency 効果といった定性的な行動パターンを再現する。
• このモデルは文脈表現と学習したダイナミクスの未知の系列への一般化の可能性を示し、認知地図との関連を示唆する。

Figure 2: Comparison between single-layer tPC and AHNs. A: Capacity of models with uncorrelated binary patterns. B: Capacity of models with binary patterns with increasing feature correlations. C: Recall performance with sequences of binary MNIST digits.