[论文解读] Spike-based primitives for graph algorithms

Kathleen E. Hamilton, Tiffany M. Mintz+1 more|arXiv (Cornell University)|Mar 25, 2019

Advanced Memory and Neural Computing参考文献 19被引用 5

一句话总结

本文提出了一种基于脉冲的图算法原语，利用脉冲神经形态硬件，利用脉冲传输的内在并行性来实现提取、枚举和验证任务。结果表明，静态和可塑性突触均可高效计算图原语（如最短路径、三角形计数和团检测），关键结果表明，核心操作的时间复杂度可达到 O(1) 或 O(d)，采用事件驱动的脉冲动力学实现。

ABSTRACT

In this paper we consider graph algorithms and graphical analysis as a new application for neuromorphic computing platforms. We demonstrate how the nonlinear dynamics of spiking neurons can be used to implement low-level graph operations. Our results are hardware agnostic, and we present multiple versions of routines that can utilize static synapses or require synapse plasticity.

研究动机与目标

• 探索神经形态计算作为图算法执行的新平台，超越神经网络应用。
• 解决将离散图操作映射到事件驱动脉冲神经元系统中并保持计算开销最小化的挑战。
• 提供与硬件无关的实现，适用于具备或不具备可塑性的神经形态平台。
• 为脉冲原语建立数学基础，使其可作为更大图分析流水线的构建模块。
• 证明脉冲神经元可通过其非线性动力学和脉冲传输原生表达图论操作。

提出的方法

• 将图的顶点映射到具有异质放电阈值的脉冲神经元，其中每个神经元的阈值 $v_{th}$ 根据其对应顶点的度数或结构角色设定。
• 采用各向同性的脉冲传输——即单个神经元的脉冲同时传播到所有连接的神经元——从而在图遍历和子图分析中实现大规模并行性。
• 通过迭代或并行的脉冲传播实现提取例程（例如最近邻、单源最短路径），最大时钟周期（MCT）受图结构和阈值与权重比的限制。
• 通过脉冲汇聚设计枚举算法（例如三角形计数）：仅当神经元接收到等于其所需阈值的脉冲数时才放电，表示如三角形等结构特征。
• 通过将神经元阈值设为 $n-1$ 来实现验证原语（例如团检测），以确认候选 $K_n$ 子图的完全连通性。
• 提供双重实现：一种使用静态突触（适用于无可塑性的平台），一种使用可塑性突触（用于更快的并行执行），并针对每种例程进行复杂度分析。

实验结果

研究问题

• RQ1 脉冲神经元是否能通过其内在动力学原生实现最短路径计算和子图枚举等基本图操作？
• RQ2 如何设计脉冲原语以实现与硬件无关，支持具备或不具备突触可塑性的神经形态系统？
• RQ3 与传统算法相比，脉冲图原语的计算复杂度（以时钟周期和神经元读写次数衡量）如何？
• RQ4 是否可以仅通过脉冲计数和阈值判断来利用脉冲汇聚验证图中的结构属性（如团或三角形）？
• RQ5 与迭代的静态突触方法相比，突触可塑性在多大程度上减少了脉冲图算法的计算时间？

主要发现

• 使用静态突触时，最近邻提取可在单个时钟周期内完成，其中 $v_{th}/s_w = 1$，仅需零次读取和一次写入即可实例化神经元集合。
• 使用静态突触进行团验证仅需一个时钟周期，候选 $K_n$ 的阈值 $v_{th} = n-1$，且仅当所有 $n$ 个神经元对 $n-1$ 个输入脉冲产生放电时才成功。
• 基于边的检测实现三角形枚举可在单个时钟周期内完成，其中 $v_{th}/s_w = 2$，基于顶点的枚举需 $d+1$ 次写入，$d$ 为最大度数。
• 对于子图提取，静态突触版本需要 $N+1$ 个时钟周期和两次写入，而可塑性突触版本将其减少至两个周期，仅需一次读取和两次写入。
• 使用可塑性突触可实现并行执行，并将某些操作的最大时钟周期从 $O(N)$ 降低至 $O(1)$，显著提升在高性能硬件上的性能。
• 该框架支持混合计算：脉冲原语可与非脉冲数据结构结合，用于存储中间结果，从而实现可扩展的异构图算法。