[論文レビュー] Power, Energy and Speed of Embedded and Server Multi-Cores applied to Distributed Simulation of Spiking Neural Networks: ARM in NVIDIA Tegra vs Intel Xeon quad-cores

Pier Stanislao Paolucci, Roberto Ammendola+8 more|arXiv (Cornell University)|May 12, 2015

Advanced Memory and Neural Computing参考文献 12被引用数 17

ひとこと要約

本研究では、DPSNN-STDPシミュレータを用いたスパikingニューラルネットワークの分散シミュレーションにおいて、埋め込み型ARMベースのシステム（NVIDIA Jetson TK1）とサーバー型Intel Xeonプラットフォームのエネルギー効率、消費電力、実行速度を比較した。ARMプラットフォームは1回のシナプスイベントあたり2.2 μJのエネルギー消費を達成し、Xeonサーバー比で4.4倍低いエネルギー消費を実現したが、実行速度は3.3倍遅いにもかかわらず、大規模ニューラルネットワークシミュレーションにおいて低消費電力ハードウェアで優れたエネルギー効率を示した。

ABSTRACT

This short note regards a comparison of instantaneous power, total energy consumption, execution time and energetic cost per synaptic event of a spiking neural network simulator (DPSNN-STDP) distributed on MPI processes when executed either on an embedded platform (based on a dual socket quad-core ARM platform) or a server platform (INTEL-based quad-core dual socket platform). We also compare the measure with those reported by leading custom and semi-custom designs: TrueNorth and SpiNNaker. In summary, we observed that: 1- we spent 2.2 micro-Joule per simulated event on the "embedded platform", approx. 4.4 times lower than what was spent by the "server platform"; 2- the instantaneous power consumption of the "embedded platform" was 14.4 times better than the "server" one; 3- the server platform is a factor 3.3 faster. The "embedded platform" is made of NVIDIA Jetson TK1 boards, interconnected by Ethernet, each mounting a Tegra K1 chip including a quad-core ARM Cortex-A15 at 2.3GHz. The "server platform" is based on dual-socket quad-core Intel Xeon CPUs (E5620 at 2.4GHz). The measures were obtained with the DPSNN-STDP simulator (Distributed Simulator of Polychronous Spiking Neural Network with synaptic Spike Timing Dependent Plasticity) developed by INFN, that already proved its efficient scalability and execution speed-up on hundreds of similar "server" cores and MPI processes, applied to neural nets composed of several billions of synapses.

研究の動機と目的

• 埋め込み型ARMおよびサーバー型Intel Xeonマルチコアシステムの分散スパikingニューラルネットワークシミュレーションにおけるエネルギー効率、消費電力、実行速度を評価・比較すること。
• 異種ハードウェアプラットフォーム上での大規模ニューラルネットワークシミュレーションにおける1シナプスイベントあたりのエネルギーコストを評価すること。
• 一般用途マルチコアシステムの性能を、TrueNorth や SpiNNaker などの専用ニューロモルフィックアーキテクチャとエネルギーおよび速度の観点からベンチマークすること。
• 低消費電力の埋め込み型システムが、分散ニューラルネットワークシミュレーションにおいて、従来のサーバープラットフォームを上回るエネルギー効率を達成できるかどうかを特定すること。

提案手法

• スケーラブルな分散シミュレーションを可能にするポリクロノススパキングニューラルネットワークとSTDP可塑性を備えたDPSNN-STDPシミュレータを、両プラットフォームのMPIプロセスに展開した。
• 埋め込み型プラットフォームでは、イーサネット接続の2台のNVIDIA Jetson TK1ボードを用い、それぞれにTegra K1チップ（4コアARM Cortex-A15、2.3 GHz）を搭載した。
• サーバー型プラットフォームでは、2ソケットのIntel Xeon E5620プロセッサ（各々4コア、2.4 GHz）を用い、ハイパフォーマンスコンピューティングクラスタを構築した。
• シミュレーション実行中にリアルタイムで電力およびエネルギー消費を測定し、1回のシナプスイベントあたりの総エネルギーを、総エネルギーをシミュレーションイベント数で割ることで算出した。
• 結果の文脈を明確にするために、最先端のニューロモルフィックシステム（TrueNorthおよびSpiNNaker）と比較した。
• すべての測定は、数十億のシナプスを持つ同一のニューラルネットワークワークロードを用いて実施され、公平な比較を確保した。

実験結果

リサーチクエスチョン

• RQ1 分散スパキングニューラルネットワークシミュレーションにおいて、埋め込み型ARMベースのシステムと従来のサーバー型Intel Xeonプラットフォームのシナプスイベントあたりのエネルギー消費は、どのように比較されるか？
• RQ2 この計算ワークロードにおいて、埋め込み型ARMプラットフォームの即時の電力効率は、サーバー型Xeonプラットフォームに対してどの程度高いか？
• RQ3 両プラットフォーム間の性能格差は、シミュレーション全体のエネルギー効率にどの程度の影響を及ぼすか？
• RQ4 一般用途の埋め込み型マルチコアシステムは、大規模ニューラルネットワークシミュレーションにおいて、専用ニューロモルフィックハードウェアと比較して競争力のあるエネルギー効率を達成できるか？

主な発見

• 埋め込み型ARMプラットフォームは、1回のシミュレートされたシナプスイベントあたり2.2マイクロジュールのエネルギー消費を示し、これはサーバー型Xeonプラットフォームの9.68マイクロジュールよりも4.4倍低いエネルギー消費であった。
• 埋め込み型プラットフォームは、サーバー型プラットフォーム比で14.4倍高い即時の電力効率を達成しており、運用中の電力消費が著しく低いことを示している。
• エネルギー面での利点にもかかわらず、サーバー型プラットフォームは実行時間で3.3倍速く、速度とエネルギー効率のトレードオフが顕著に現れている。
• 結果から、大規模スパキングニューラルネットワークシミュレーションにおいて、埋め込み型ARMシステムが従来のサーバー型プラットフォームを上回る顕著なエネルギー効率を達成できることを示している。
• 性能は遅いものの、埋め込み型システムのエネルギーコストは、特に電力制約が厳しいアプリケーションにおいて、依然として競争力があると評価できる。