[论文解读] Power, Energy and Speed of Embedded and Server Multi-Cores applied to Distributed Simulation of Spiking Neural Networks: ARM in NVIDIA Tegra vs Intel Xeon quad-cores

Pier Stanislao Paolucci, Roberto Ammendola+8 more|arXiv (Cornell University)|May 12, 2015

Advanced Memory and Neural Computing参考文献 12被引用 17

一句话总结

本研究比较了基于ARM的嵌入式系统（NVIDIA Jetson TK1）与服务器级Intel Xeon平台在使用DPSNN-STDP模拟器进行脉冲神经网络分布式模拟时的能效、功耗和执行速度。尽管ARM平台的执行速度慢3.3倍，但其每突触事件能耗仅为2.2 μJ，较Xeon服务器平台的9.68 μJ低4.4倍，表明在低功耗硬件上进行大规模神经网络模拟时，ARM平台具有显著更优的能效表现。

ABSTRACT

This short note regards a comparison of instantaneous power, total energy consumption, execution time and energetic cost per synaptic event of a spiking neural network simulator (DPSNN-STDP) distributed on MPI processes when executed either on an embedded platform (based on a dual socket quad-core ARM platform) or a server platform (INTEL-based quad-core dual socket platform). We also compare the measure with those reported by leading custom and semi-custom designs: TrueNorth and SpiNNaker. In summary, we observed that: 1- we spent 2.2 micro-Joule per simulated event on the "embedded platform", approx. 4.4 times lower than what was spent by the "server platform"; 2- the instantaneous power consumption of the "embedded platform" was 14.4 times better than the "server" one; 3- the server platform is a factor 3.3 faster. The "embedded platform" is made of NVIDIA Jetson TK1 boards, interconnected by Ethernet, each mounting a Tegra K1 chip including a quad-core ARM Cortex-A15 at 2.3GHz. The "server platform" is based on dual-socket quad-core Intel Xeon CPUs (E5620 at 2.4GHz). The measures were obtained with the DPSNN-STDP simulator (Distributed Simulator of Polychronous Spiking Neural Network with synaptic Spike Timing Dependent Plasticity) developed by INFN, that already proved its efficient scalability and execution speed-up on hundreds of similar "server" cores and MPI processes, applied to neural nets composed of several billions of synapses.

研究动机与目标

• 评估并比较嵌入式ARM与服务器级Intel Xeon多核系统在分布式脉冲神经网络模拟中的能效、功耗和执行速度。
• 评估在异构硬件平台上大规模神经网络模拟中每突触事件的能量成本。
• 将通用多核系统的性能与TrueNorth和SpiNNaker等专用脉冲神经形态架构进行基准测试，比较其能效与速度表现。
• 确定低功耗嵌入式系统是否能在分布式神经网络模拟中实现优于传统服务器平台的能效表现。

提出的方法

• 将专为可扩展分布式模拟具有STDP可塑性的多时序脉冲神经网络而设计的DPSNN-STDP模拟器，部署于两个平台的MPI进程上。
• 嵌入式平台采用两块NVIDIA Jetson TK1板卡，每块板卡配备一颗Tegra K1芯片，内置四核ARM Cortex-A15（主频2.3 GHz），通过以太网连接。
• 服务器平台采用双路Intel Xeon E5620处理器（每颗四核，主频2.4 GHz），构成高性能计算集群。
• 在模拟运行期间实时测量功耗与能耗，每突触事件总能耗计算为总能耗与模拟事件数的比值。
• 将性能指标与最先进的脉冲神经形态系统（TrueNorth与SpiNNaker）进行对比，以定位结果的上下文背景。
• 所有测量均在具有数十亿突触的相同神经网络工作负载上进行，以确保公平比较。

实验结果

研究问题

• RQ1 在分布式脉冲神经网络模拟中，基于ARM的嵌入式系统与传统服务器级Intel Xeon平台每突触事件的能耗有何差异？
• RQ2 在该计算工作负载下，嵌入式ARM平台相对于服务器Xeon平台的瞬时功耗效率如何？
• RQ3 两个平台之间的性能差距在多大程度上影响了模拟的整体能效？
• RQ4 通用嵌入式多核系统在大规模神经网络模拟中能否实现与专用脉冲神经形态硬件相媲美甚至更优的能效表现？

主要发现

• 嵌入式ARM平台每模拟突触事件消耗2.2微焦耳能量，较服务器Xeon平台的9.68微焦耳低4.4倍。
• 嵌入式平台的瞬时功耗效率较服务器平台高出14.4倍，表明其运行期间功耗显著更低。
• 尽管能效优势明显，服务器平台的执行时间仍快3.3倍，凸显了速度与能效之间的权衡。
• 结果表明，对于大规模脉冲神经网络模拟，嵌入式ARM系统在能效方面显著优于传统服务器平台。
• 尽管执行速度较慢，嵌入式系统的性能在每事件能耗方面仍具竞争力，尤其在功耗受限的应用中更具优势。