[논문 리뷰] Bit Fusion: Bit-Level Dynamically Composable Architecture for Accelerating Deep Neural Networks

Hardik Sharma, Jongse Park외 6명|arXiv (Cornell University)|2017. 12. 05.

Advanced Neural Network Applications참고 문헌 40인용 수 32

한 줄 요약

Bit Fusion는 개별 DNN 레이어의 가변적 비트폭을 반영하여 비트 수준에서 처리 요소를 동적으로 조합하는 DNN 가속기로, 정확도 손실 없이 계산과 메모리 트래픽을 크게 줄일 수 있다. 45 nm 공정에서 Eyeriss 대비 3.9배의 성능 향상과 5.1배의 에너지 절감을 달성하였으며, 16 nm 공정에서는 250W의 Titan Xp와 유사한 성능을 내면서도 오직 895 mW의 전력 소비로 운영된다.

ABSTRACT

Fully realizing the potential of acceleration for Deep Neural Networks (DNNs) requires understanding and leveraging algorithmic properties. This paper builds upon the algorithmic insight that bitwidth of operations in DNNs can be reduced without compromising their classification accuracy. However, to prevent accuracy loss, the bitwidth varies significantly across DNNs and it may even be adjusted for each layer. Thus, a fixed-bitwidth accelerator would either offer limited benefits to accommodate the worst-case bitwidth requirements, or lead to a degradation in final accuracy. To alleviate these deficiencies, this work introduces dynamic bit-level fusion/decomposition as a new dimension in the design of DNN accelerators. We explore this dimension by designing Bit Fusion, a bit-flexible accelerator, that constitutes an array of bit-level processing elements that dynamically fuse to match the bitwidth of individual DNN layers. This flexibility in the architecture enables minimizing the computation and the communication at the finest granularity possible with no loss in accuracy. We evaluate the benefits of BitFusion using eight real-world feed-forward and recurrent DNNs. The proposed microarchitecture is implemented in Verilog and synthesized in 45 nm technology. Using the synthesis results and cycle accurate simulation, we compare the benefits of Bit Fusion to two state-of-the-art DNN accelerators, Eyeriss and Stripes. In the same area, frequency, and process technology, BitFusion offers 3.9x speedup and 5.1x energy savings over Eyeriss. Compared to Stripes, BitFusion provides 2.6x speedup and 3.9x energy reduction at 45 nm node when BitFusion area and frequency are set to those of Stripes. Scaling to GPU technology node of 16 nm, BitFusion almost matches the performance of a 250-Watt Titan Xp, which uses 8-bit vector instructions, while BitFusion merely consumes 895 milliwatts of power.

연구 동기 및 목표

• 가변적 비트폭 연산을 처리할 때 하드웨어 자원을 낭비하거나 정확도를 저하시키는 고정 비트폭 DNN 가속기의 비효율성을 해결한다.
• DNN는 각 레이어에서 비트폭을 감소시켜도 정확도를 유지할 수 있다는 알고리즘적 통찰을 활용하여 세밀한 최적화를 가능하게 한다.
• 각 DNN 레이어의 비트폭에 맞춰 런타임에 동적으로 비트 수준 융합 및 분해를 지원하는 하드웨어 아키텍처를 설계한다.
• 각 레이어에 필요한 최소 비트폭에서 데이터를 저장하고 처리하여 계산 및 메모리 액세스 에너지를 최소화한다.
• 비트 수준의 유연성이 다양한 DNN 워크로드(예: CNN, RNN 포함)에서 성능 및 에너지 효율성 향상에 크게 기여함을 입증한다.

제안 방법

• 각 DNN 레이어의 연산 비트폭에 따라 동적으로 융합 또는 분해가 가능한 비트 수준 처리 요소로 구성된 비트 유연성 가속기를 설계한다.
• 지침 수족을 줄이고 비트 수준 제어를 가능하게 하기 위해 루프 지시어와 반복적 의미론을 포함한 커스텀 명령어 세트 아키텍처(Fusion-ISA)를 구현한다.
• 최소한의 필요 비트폭에서 데이터를 저장하고 검색할 수 있도록 인코딩 및 메모리 액세스 논리를 통합하여 외부 메모리 및 내부 메모리 트래픽을 감소시킨다.
• 45 nm 공정에서 사이클 정확도 시뮬레이션과 Verilog 합성을 통해 여덟 개의 실제 DNN에 대해 성능, 면적, 전력 소모를 평가한다.
• 비트 수준 조합성의 이점을 분리하기 위해 동일한 면적, 주파수, 공정 기술 조건에서 Bit Fusion을 Eyeriss 및 Stripes와 비교한다.
• 16 nm 공정으로 설계를 확장하여 고성능 GPU인 Titan Xp와의 성능 비교를 위해 전력 및 성능 지표를 사용해 평가한다.

실험 결과

연구 질문

• RQ1 DNN 가속기에서 동적 비트 수준 융합이 정확도 손실 없이 계산과 메모리 트래픽을 크게 줄일 수 있는가?
• RQ2 고정 비트폭 또는 이진 전용 가속기 대비 비트 수준 조합성은 성능 및 에너지 효율성 측면에서 어떻게 비교되는가?
• RQ3 DNN 레이어 간의 비트폭 변화를 얼마나 잘 활용하여 하드웨어 자원 사용과 데이터 이동을 최소화할 수 있는가?
• RQ4 16 nm와 같은 고급 공정 노드로 확장했을 때 비트 수준 융합의 성능 및 에너지 영향은 어떠한가?
• RQ5 비트 유연성 가속기가 초고전력 GPU와 유사한 성능을 달성하면서도 초저전력 소비를 유지할 수 있는가?

주요 결과

• 45 nm 공정에서 동일한 면적, 주파수, 공정 조건에서 Bit Fusion은 Eyeriss 대비 3.9배의 성능 향상과 5.1배의 에너지 절감을 달성한다.
• 45 nm 노드에서 면적과 주파수를 동일하게 맞춘 조건에서 Stripes 대비 Bit Fusion은 2.6배의 성능 향상과 3.9배의 에너지 감소를 기록한다.
• 16 nm 공정에서 Bit Fusion은 250W의 Titan Xp GPU와 유사한 성능을 내면서도 오직 895 mW의 전력 소비로 운영된다.
• DNN에서 곱셈-덧셈 연산이 전체 연산의 99% 이상을 차지함에 따라 비트폭 감소에 따라 계산량이 거의 제곱적으로 감소한다.
• 최소한의 필요 비트폭에서 데이터를 저장하고 검색함으로써 메모리 액세스 에너지가 비례적으로 감소하고, 이로 인해 실질적인 내부 메모리 용량이 증가한다.
• Fusion-ISA는 비트 수준 융합의 효율적 소프트웨어 제어를 가능하게 하여 지침 수족을 줄이고 병렬성과 데이터 국소성을 극대화한다.