[论文解读] Hebbian-Oscillatory Co-Learning

Hasi Hays|arXiv (Cornell University)|Feb 21, 2026

Neural Networks and Reservoir Computing被引用 0

一句话总结

引入 Hebbian-Oscillatory Co-Learning (HOC-L)，一个两时间尺度框架，利用同步门控的 Hebbian 可塑性共同学习稀疏连通性与相位同步，带有收敛性保证与降低复杂度。

ABSTRACT

We introduce Hebbian-Oscillatory Co-Learning (HOC-L), a unified two-timescale dynamical framework for joint structural plasticity and phase synchronization in bio-inspired sparse neural architectures. HOC-L couples two recent frameworks: the hyperbolic sparse geometry of Resonant Sparse Geometry Networks (RSGN), which employs Poincaré ball embeddings with Hebbian-driven dynamic sparsity, and the oscillator-based attention of Selective Synchronization Attention (SSA), which replaces dot-product attention with Kuramoto-type phase-locking dynamics. The key mechanism is synchronization-gated plasticity: the macroscopic order parameter $r(t)$ of the oscillator ensemble gates Hebbian structural updates, so that connectivity consolidation occurs only when sufficient phase coherence signals a meaningful computational pattern. We prove convergence of the joint system to a stable equilibrium via a composite Lyapunov function and derive explicit timescale separation bounds. The resulting architecture achieves $O(n \cdot k)$ complexity with $k \ll n$, preserving the sparsity of both parent frameworks. Numerical simulations confirm the theoretical predictions, demonstrating emergent cluster-aligned connectivity and monotonic Lyapunov decrease.

研究动机与目标

• 将结构可塑性与相位同步结合到生物启发的稀疏网络中。
• 利用 Hyperbolic 稀疏几何（RSGN）和基于振荡器的注意力（SSA）实现高效、稀疏的学习。
• 通过李雅普诺夫函数建立联合系统的收敛性并推导时间尺度分离界限。
• 证明该架构在保持稀疏性的同时实现可扩展计算和有意义的连通性模式。

提出的方法

• 耦合两大框架：带有 Poincaré 球嵌入的共振稀疏几何网络与 Hebbian 驱动的动态稀疏性。
• 通过 Kuramoto 型相锁动力学实现选择性同步注意力，而非点积注意力。
• 引入同步门控可塑性，其中宏观序参数 r(t) 控门 Hebbian 结构更新。
• 使用复合李雅普诺夫函数证明收敛到稳定平衡，并推导显式的时间尺度分离界限。
• 在 k ≪ n 的情况下实现 O(n · k) 计算复杂度，保留稀疏性。

实验结果

研究问题

• RQ1 同步门控 Hebbian 可塑性是否能够共同稳定稀疏网络中的结构更新与相位同步？
• RQ2 整合对收敛性和计算复杂性的影响如何？
• RQ3 当簇聚与网络动态对齐时，出现的连通模式是什么？
• RQ4 理论保证（李雅普诺夫稳定性、时间尺度分离）在数值模拟中是否成立？

主要发现

• 联合系统在复合李雅普诺夫函数下收敛到稳定平衡。
• 为两时间尺度动力学推导出明确的时间尺度分离界限。
• 数值模拟证实簇对齐的 emergent 连通性。
• 该架构在 n 维中保留稀疏性，复杂度为 O(n · k)，其中 k ≪ n。
• 模拟显示李雅普诺夫单调下降与连通性与簇结构的一致性。