[論文レビュー] Self-Supervised Learning of Representations for Space Generates Multi-Modular Grid Cells

Rylan Schaeffer, Mikail Khona+4 more|arXiv (Cornell University)|Nov 4, 2023

Single-cell and spatial transcriptomics被引用数 26

ひとこと要約

本論文は自己教師あり学習（SSL）フレームワークである SIC を紹介し、速度入力から空間表現を学習する再帰ネットワークを訓練し、監督付き位置データなしに複数のグリッドセル様モジュールを得る。出現した表現はより大きな環境へ一般化し、グリッド様でモジュール構造を示す。

ABSTRACT

To solve the spatial problems of mapping, localization and navigation, the mammalian lineage has developed striking spatial representations. One important spatial representation is the Nobel-prize winning grid cells: neurons that represent self-location, a local and aperiodic quantity, with seemingly bizarre non-local and spatially periodic activity patterns of a few discrete periods. Why has the mammalian lineage learnt this peculiar grid representation? Mathematical analysis suggests that this multi-periodic representation has excellent properties as an algebraic code with high capacity and intrinsic error-correction, but to date, there is no satisfactory synthesis of core principles that lead to multi-modular grid cells in deep recurrent neural networks. In this work, we begin by identifying key insights from four families of approaches to answering the grid cell question: coding theory, dynamical systems, function optimization and supervised deep learning. We then leverage our insights to propose a new approach that combines the strengths of all four approaches. Our approach is a self-supervised learning (SSL) framework - including data, data augmentations, loss functions and a network architecture - motivated from a normative perspective, without access to supervised position information or engineering of particular readout representations as needed in previous approaches. We show that multiple grid cell modules can emerge in networks trained on our SSL framework and that the networks and emergent representations generalize well outside their training distribution. This work contains insights for neuroscientists interested in the origins of grid cells as well as machine learning researchers interested in novel SSL frameworks.

研究の動機と目的

• 規範的原理をコード理論、ダ dynamics、最適化を組み合わせて、グリッドのような多モジュール表現が出現する動機付け。
• 速度列から空間表現を学ぶ純粋なSSLフレームワークを提案する。
• SSLで訓練されたネットワークが複数のグリッドモジュールを発達させ、訓練分布を超えて一般化することを示す。
• 出現する神経表現を特徴づけ、ablation を通じて各損失成分の役割を評価する。

提案手法

• 速度列からランダムな置換を用いてトラジェクトリ intersections を作成するSSL訓練データを構築する。
• 速度条件付き相互作用行列 W(v) = MLP(v) を持つ RNN とダイナミクス g_t = Norm(ReLU(W(v_t) g_{t-1})) を用いる。
• 表現の崩壊を避けるため、非負性と単位ノルム制約を課す。
• 4つの SSL 損失を定義する: L_Sep（分離）、L_Inv（経路不変性）、L_Cap（容量）、L_ConIso（共形等距性）。
• L = λ_Sep L_Sep + λ_Inv L_Inv + λ_Cap L_Cap + λ_ConIso L_ConIso を組み合わせて SIC フレームワークを形成する。

実験結果

リサーチクエスチョン

• RQ1 監督付き空間ターゲットなしに深い再帰ネットワークで多モジュールのグリッドセル表現を SSL フレームワークが生成できるか？
• RQ2 どのデータ、拡張、損失の組み合わせがグリッド様のモジュール化コーディングと経路統合ダイナミクスを生み出すのに十分か？
• RQ3 出現する表現は訓練環境より大きなアリーナや異なる経路統計にどのように一般化するか？
• RQ4 各損失項がグリッドモジュールの生成と維持に果たす役割は何か？

主な発見

• SIC フレームワークで訓練されたネットワークは、空間的に周期的な結合を持つニューロンと離散的な複数のグリッドモジュールを発達させる。
• 出現するグリッドセル表現は訓練時に見た環境より大きな環境や、速度統計が異なる場合にも一般化する。
• 集団解析は、出現する表現にトーリエル吸引多様体と六角格子様の構造を示す。
• アブレーション研究では、容量損失や他の損失を欠くとモジュール状のグリッド様構造が崩れ、時にはプレースセル様コードや空間調整の喪失が生じる。
• このフレームワークは、異なる周期と向きを持つ三つの共モジュラーグリッド集団を生み出し、生物学的グリッドセルのモジュラリティに類似している。