[논문 리뷰] Are FPGAs Suitable for Edge Computing?

Saman Biookaghazadeh, Fengbo Ren외 1명|arXiv (Cornell University)|2018. 04. 17.

Advanced Adaptive Filtering Techniques참고 문헌 2인용 수 16

한 줄 요약

이 논문은 인텔 아리아 10 FPGA와 NVIDIA 테슬라 K40m GPU를 사용하여 오픈클 기반 커널을 통해 엣지 컴퓨팅을 위한 FPGA의 성능을 평가한다. 통과량, 에너지 효율성, 유연성 측면에서 GPU와 비교한다. 결과적으로 FPGA는 작업량 크기에 관계없이 일관된 통과량을 제공하며, 에너지 효율성에서 최대 30.7배 우수하고, 높은 종속성 알고리즘에서도 세밀한 공간적 및 시간적 병렬 처리 덕분에 안정된 성능을 유지한다.

ABSTRACT

The rapid growth of Internet-of-things (IoT) and artificial intelligence applications have called forth a new computing paradigm--edge computing. In this paper, we study the suitability of deploying FPGAs for edge computing from the perspectives of throughput sensitivity to workload size, architectural adaptiveness to algorithm characteristics, and energy efficiency. This goal is accomplished by conducting comparison experiments on an Intel Arria 10 GX1150 FPGA and an Nvidia Tesla K40m GPU. The experiment results imply that the key advantages of adopting FPGAs for edge computing over GPUs are three-fold: 1) FPGAs can provide a consistent throughput invariant to the size of application workload, which is critical to aggregating individual service requests from various IoT sensors; (2) FPGAs offer both spatial and temporal parallelism at a fine granularity and a massive scale, which guarantees a consistently high performance for accelerating both high-concurrency and high-dependency algorithms; and (3) FPGAs feature 3-4 times lower power consumption and up to 30.7 times better energy efficiency, offering better thermal stability and lower energy cost per functionality.

연구 동기 및 목표

• FPGA가 엣지 컴퓨팅에 적합한지 GPU와 비교하여 평가하는 것.
• 다양한 워크로드 크기에서 통과량 예측 가능성 분석하기.
• 다양한 알고리즘 워크로드 하에서 에너지 효율성과 열 안정성 평가하기.
• 병행성과 데이터 종속성에 대한 아키텍처의 적응 가능성 조사하기.
• FPGA가 GPU 기반 엣지 서버의 실질적인 대안이 될 수 있는지 판단하기.

제안 방법

• 인텔 아리아 10 GX1150 FPGA와 NVIDIA 테슬라 K40m GPU에서 오픈클 커널을 사용해 FPGA와 GPU 성능 벤치마킹하기.
• 다양한 배치 크기와 데이터 종속성 수준에서 원시 및 정규화된 통과량 측정하기.
• 에너지 효율성 계산을 위해 nvidia-smi와 Nallatech API를 사용해 실시간 전력 소비 기록하기.
• 8에서 1024개의 연산을 포함한 행렬 곱셈 및 조건부 종속성 워크로드에서 성능 평가하기.
• 저종속성 및 고종속성 알고리즘 시나리오에서 통과량과 에너지 효율성 분석하기.
• 고수준 합성(HLS)을 사용해 C 기반 오픈클에서 이식 가능하고 고성능 FPGA 커널 구현하기.

실험 결과

연구 질문

• RQ1 GPU와 달리 FPGA는 다양한 응용 워크로드 크기에서 일관된 통과량을 유지할 수 있는가?
• RQ2 다양한 데이터 동시성 및 종속성 수준에서 FPGA의 에너지 효율성은 GPU와 비교해 어떻게 되는가?
• RQ3 동적 하드웨어 재구성 기능을 통해 FPGA는 높은 종속성 알고리즘에 얼마나 잘 적응할 수 있는가?
• RQ4 GPU에서 관찰되는 조건부 분기나 복잡한 제어 흐름에 의해 FPGA 성능이 떨어지는가?
• RQ5 스트리밍 데이터를 포함한 실제 엣지 워크로드에서 FPGA의 에너지 효율성 우월성은 어느 정도인가?

주요 결과

• FPGA는 작업량 크기에 관계없이 일관된 통과량을 제공하지만, GPU는 작업량 크기가 증가함에 따라 통과량이 크게 감소한다.
• FPGA는 GPU 대비 2.5배에서 30.7배까지 뛰어난 에너지 효율성을 달성하며, 특히 작은 배치 크기에서 최대 30.7배의 향상이 이루어진다.
• 높은 데이터 종속성 워크로드(종속도 수준 256)에서는 FPGA가 GPU보다 최대 11.8배 높은 에너지 효율성을 확보한다.
• GPU는 조건부 분기로 인한 워프 분산으로 최대 37.12배 성능 저하를 겪는 반면, FPGA 성능은 안정을 유지한다.
• 세밀한 공간적 및 시간적 병렬 처리 덕분에 FPGA는 고병렬성 및 고종속성 알고리즘 모두에서 높은 통과량을 유지한다.
• FPGA는 GPU 대비 2.79~3.92배 더 적은 전력을 소비하여 엣지 구현에서 더 나은 열 안정성과 낮은 냉각 및 에너지 비용을 제공한다.