[論文レビュー] Hebbian-Oscillatory Co-Learning

Hasi Hays|arXiv (Cornell University)|Feb 21, 2026

Neural Networks and Reservoir Computing被引用数 0

ひとこと要約

Hebbian-Oscillatory Co-Learning (HOC-L) は、同期ゲート付きヘビアン学習を用いて疎結合性と位相同期を同時に学習する二時系列フレームワークで、収束保証と計算量の削減を提供します。

ABSTRACT

We introduce Hebbian-Oscillatory Co-Learning (HOC-L), a unified two-timescale dynamical framework for joint structural plasticity and phase synchronization in bio-inspired sparse neural architectures. HOC-L couples two recent frameworks: the hyperbolic sparse geometry of Resonant Sparse Geometry Networks (RSGN), which employs Poincaré ball embeddings with Hebbian-driven dynamic sparsity, and the oscillator-based attention of Selective Synchronization Attention (SSA), which replaces dot-product attention with Kuramoto-type phase-locking dynamics. The key mechanism is synchronization-gated plasticity: the macroscopic order parameter $r(t)$ of the oscillator ensemble gates Hebbian structural updates, so that connectivity consolidation occurs only when sufficient phase coherence signals a meaningful computational pattern. We prove convergence of the joint system to a stable equilibrium via a composite Lyapunov function and derive explicit timescale separation bounds. The resulting architecture achieves $O(n \cdot k)$ complexity with $k \ll n$, preserving the sparsity of both parent frameworks. Numerical simulations confirm the theoretical predictions, demonstrating emergent cluster-aligned connectivity and monotonic Lyapunov decrease.

研究の動機と目的

• 生物発想の疎ネットワークにおける構造的可塑性と位相同期を組み合わせる。
• Hyperbolic sparse geometry (RSGN) と oscillator-based attention (SSA) を活用し、効率的で疎な学習を実現する。
• Lyapunov関数を用いて joint 系の収束性を確立し、時系列分離の境界を導出する。
• アーキテクチャが疎性を保持しつつ、スケーラブルな計算と意味のある結合パターンを達成することを示す。

提案手法

• 二つのフレームワークを結合する：Poincaréボール埋め込みを用いた Resonant Sparse Geometry Networks とヘビアン駆動ダイナミックスパース性。
• ドット積注意の代わりに Kuramoto 型位相固定ダイナミクスを用いて選択的同期注意を実装する。
• マクロな秩序パラメータ r(t) がヘビアン構造更新をゲートする同期ゲート付き可塑性を導入する。
• 複合的な Lyapunov 関数を用いて安定な平衡への収束を証明し、明示的な時系列分離境界を導出する。
• k << n のとき O(n · k) の計算量を達成し、疎性を保つ。

実験結果

リサーチクエスチョン

• RQ1 同期ゲート付きヘビアン可塑性は疎ネットワークにおける構造更新と位相同期を共同で安定化できるか？
• RQ2 統合は収束特性と計算量にどのような影響を与えるか？
• RQ3 クラスタリングがネットワークダイナミクスと整合する際の新たな結合パターンは何か？
• RQ4 理論的保証（Lyapunov安定性、時系列分離）は数値シミュレーションで成り立つか？

主な発見

• joint system は複合的な Lyapunov 関数の下で安定平衡へ収束する。
• 二時系列ダイナミクスのための明示的な時系列分離境界が導出される。
• 数値シミュレーションはクラスタ整列と結合性の出現を確認する。
• アーキテクチャは O(n · k) の複雑さで疎性を維持し、k ≪ n を満たす。
• シミュレーションは単調な Lyapunov 減衰とクラスタ構造への結合の整合を示す。