[論文レビュー] Are FPGAs Suitable for Edge Computing?

Saman Biookaghazadeh, Fengbo Ren+1 more|arXiv (Cornell University)|Apr 17, 2018

Advanced Adaptive Filtering Techniques参考文献 2被引用数 16

ひとこと要約

この論文は、Intel Arria 10 FPGAとNVIDIA Tesla K40m GPUを用いてOpenCLベースのカーネルを用いて、エッジコンピューティングにおけるFPGAの性能を、Throughput、エネルギー効率、および柔軟性の観点からGPUと比較することで評価している。結果として、FPGAはワークロードサイズにかかわらず一貫したThroughputを発揮し、エネルギー効率においてはGPUを最大30.7倍上回り、依存度の高いアルゴリズムにおいても、細粒度の空間的・時間的並列処理のおかげで安定した性能を維持することが明らかになった。

ABSTRACT

The rapid growth of Internet-of-things (IoT) and artificial intelligence applications have called forth a new computing paradigm--edge computing. In this paper, we study the suitability of deploying FPGAs for edge computing from the perspectives of throughput sensitivity to workload size, architectural adaptiveness to algorithm characteristics, and energy efficiency. This goal is accomplished by conducting comparison experiments on an Intel Arria 10 GX1150 FPGA and an Nvidia Tesla K40m GPU. The experiment results imply that the key advantages of adopting FPGAs for edge computing over GPUs are three-fold: 1) FPGAs can provide a consistent throughput invariant to the size of application workload, which is critical to aggregating individual service requests from various IoT sensors; (2) FPGAs offer both spatial and temporal parallelism at a fine granularity and a massive scale, which guarantees a consistently high performance for accelerating both high-concurrency and high-dependency algorithms; and (3) FPGAs feature 3-4 times lower power consumption and up to 30.7 times better energy efficiency, offering better thermal stability and lower energy cost per functionality.

研究の動機と目的

• FPGAがエッジコンピューティングに適しているかどうかをGPUと比較して評価すること。
• さまざまなワークロードサイズにおけるThroughputの予測可能性を分析すること。
• 多様なアルゴリズム的ワークロード下でのエネルギー効率と熱的安定性を評価すること。
• 並列処理とデータ依存性へのアーキテクチャ的柔軟性を調査すること。
• FPGAがGPUベースのエッジサーバーの実用的代替手段として機能可能かどうかを特定すること。

提案手法

• Intel Arria 10 GX1150 FPGAとNVIDIA Tesla K40m GPUを用いて、OpenCLカーネルを用いたFPGAおよびGPUのパフォーマンスベンチマーク。
• さまざまなバッチサイズとデータ依存度レベルにおける、原始的および正規化されたThroughputの測定。
• エネルギー効率計算のため、nvidia-smiおよびNallatech APIを用いてリアルタイムでの電力消費を記録。
• 8から1024の演算を含む行列乗算および条件付き依存度ワークロードにおけるパフォーマンス評価。
• 低依存度および高依存度のアルゴリズム的シナリオにおけるThroughputおよびエネルギー効率の分析。
• CベースのOpenCLを用いたポータブルで高性能なFPGAカーネルを実現するため、高水準合成（HLS）の利用。

実験結果

リサーチクエスチョン

• RQ1 FPGAは、GPUとは異なり、さまざまなアプリケーションワークロードサイズにおいても一貫したThroughputを維持できるか？
• RQ2 FPGAのエネルギー効率は、さまざまなデータ並列性および依存度レベルにおいてGPUと比べてどの程度優れているか？
• RQ3 動的ハードウェア再構成を通じて、FPGAは高依存度アルゴリズムにどの程度適応できるか？
• RQ4 GPUが見られるような条件分岐や複雑な制御フローの下で、FPGAのパフォーマンスは低下するか？
• RQ5 ストリーミングデータを含む実世界のエッジワークロードにおいて、FPGAのエネルギー効率の優位性は何か？

主な発見

• FPGAはワークロードサイズにかかわらず一貫したThroughputを発揮するが、GPUのThroughputはワークロードサイズの増加に伴い著しく低下する。
• FPGAはGPUよりも2.5～30.7倍のエネルギー効率を達成しており、特に小規模バッチサイズで最大30.7倍の改善が見られた。
• 高いデータ依存度（依存度256）のワークロードでは、FPGAはGPUよりも最大11.8倍高いエネルギー効率を達成した。
• GPUは条件分岐によるワープディビェージンに起因し、最大37.12倍のパフォーマンス低下を示したが、FPGAのパフォーマンスは安定したままであった。
• 細粒度の空間的・時間的並列処理のおかげで、FPGAは高並列性および高依存度の両方のアルゴリズムにおいて高いThroughputを維持した。
• FPGAはGPUよりも2.79～3.92倍の電力消費を抑え、エッジ展開における熱的安定性の向上、冷却コストおよびエネルギーコストの低減に寄与した。