[논문 리뷰] Training for 'Unstable' CNN Accelerator:A Case Study on FPGA

Kouzi Xing|arXiv (Cornell University)|2018. 12. 02.

Embedded Systems Design Techniques참고 문헌 21인용 수 4

한 줄 요약

이 논문은 초과세팅 또는 하드웨어 결함으로 인한 가속기 고유의 불안정성(예: 시간 오차, 전압 변동 등)을 컨volutional 네트워크(CNN) 학습 과정에 통합함으로써 내성적 성능 향상을 도모하는 새로운 학습 프레임워크를 제안한다. 현장 프로그래밍 게이트 어레이(FPGA)에서 시뮬레이션된 불안정 행동을 활용해 사전 학습된 모델을 보정함으로써 극한 조건에서의 정확도 손실을 줄이며, 극한의 초과세팅에서는 최대 3.4%의 top-5 정확도 향상을, 심각한 결함 주입 조건에서는 최대 6.8%의 향상을 달성한다.

ABSTRACT

With the great advancements of convolution neural networks(CNN), CNN accelerators are increasingly developed and deployed in the major computing systems.To make use of the CNN accelerators, CNN models are trained via the off-line training systems such as Caffe, Pytorch and Tensorflow on multi-core CPUs and GPUs first and then compiled to the target accelerators. Although the two-step process seems to be natural and has been widely applied, it assumes that the accelerators' behavior can be fully modeled on CPUs and GPUs. This does not hold true and the behavior of the CNN accelerators is un-deterministic when the circuit works at 'unstable' mode when it is overclocked or is affected by the environment like fault-prone aerospace. The exact behaviors of the accelerators are determined by both the chip fabrication and the working environment or status. In this case, applying the conventional off-line training result to the accelerators directly may lead to considerable accuracy loss. To address this problem, we propose to train for the 'unstable' CNN accelerator and have the 'un-determined behavior' learned together with the data in the same framework. Basically, it starts from the off-line trained model and then integrates the uncertain circuit behaviors into the CNN models through additional accelerator-specific training. The fine-tuned training makes the CNN models less sensitive to the circuit uncertainty. We apply the design method to both an overclocked CNN accelerator and a faulty accelerator. According to our experiments on a subset of ImageNet, the accelerator-specific training can improve the top 5 accuracy up to 3.4% and 2.4% on average when the CNN accelerator is at extreme overclocking. When the accelerator is exposed to a faulty environment, the top 5 accuracy improves up to 6.8% and 4.28% on average under the most severe fault injection.

연구 동기 및 목표

• 초과세팅 또는 환경적 결함으로 인한 불안정 동작 환경에서 CNN 가속기의 정확도 저하 문제를 해결하기 위해.
• 기존의 두 단계 학습(사전에 CPU/GPU에서 오프라인 학습한 후 컴파일) 방식이 가속기 동작의 결정론적 성질을 전제로 하므로 이를 극복하기 위해.
• 실시간 하드웨어 구현 환경에서 발생할 수 있는 예측 불가능한 회로 수준의 행동에 대응할 수 있도록 CNN 모델을 학습하는 방법을 개발하기 위해.
• 항공우주 플랫폼과 같은 자원 제약이 있거나 고장이 발생하기 쉬운 시스템에서 FPGA 기반 가속기를 활용해 신뢰성 있는 추론을 가능하게 하기 위해.

제안 방법

• PyTorch나 Tensorflow와 같은 표준 프레임워크를 통해 확보한 사전 학습된 CNN 모델에서 시작한다.
• 하드웨어 인식 시뮬레이션을 사용해 가속기 고유의 불안정성(예: 시간 오차, 전압 변동 등)을 학습 루프에 통합한다.
• 실제 FPGA 환경에서의 초과세팅 또는 결함 주입 조건를 모의한 합성 불안정 패턴을 사용해 사전 학습된 모델을 보정한다.
• 역전파를 통해 가중치를 갱신하여 모델이 불확실한 행동에 대응할 수 있도록 학습한다.
• 데이터와 불안정 패턴을 동시에 사용해 종단 간(end-to-end)으로 학습함으로써 하드웨어 유도 오류의 분포를 효과적으로 학습한다.
• 결과로 도출된 강건한 모델을 대상 FPGA 가속기에서 배포하여, 불안정한 동작 조건에서도 높은 정확도를 유지한다.

실험 결과

연구 질문

• RQ1 시뮬레이션된 불안정성으로 학습할 경우, 불안정한 FPGA 가속기에서 CNN 추론 정확도는 어떻게 향상되는가?
• RQ2 가속기 고유의 학습 방식은 극한의 초과세팅 조건에서 정확도 손실를 얼마나 효과적으로 완화할 수 있는가?
• RQ3 제안된 방법은 실시간 추론에서 비트 플립이나 시간 오차와 같은 하드웨어 결함을 효과적으로 처리할 수 있는가?
• RQ4 불안정성 학습을 통해 학습된 모델의 강건성은 표준 보정 또는 재학습과 비교해 어떻게 다른가?
• RQ5 하드웨어 불확실성 하에서 학습 복잡도와 정확도 향상 사이의 상호 교환 관계는 어떠한가?

주요 결과

• FPGA 가속기가 극한의 초과세팅 상태에서 작동할 경우, 제안된 방법이 ImageNet에서 최대 3.4%의 top-5 정확도 향상을 달성하였다.
• 가장 심각한 결함 주입 조건에서, 표준 보정 방식과 비교해 최대 6.8%의 top-5 정확도 향상을 달성하였다.
• 다양한 초과세팅 수준에서 평균적으로 2.4%의 정확도 향상을 기록하여 일관된 강건성을 입증하였다.
• 결함 주입 조건 하에서 평균 4.28%의 정확도 향상을 기록하여 하드웨어 결함에 대한 강력한 내성성을 입증하였다.
• 결과는 하드웨어 불안정성을 학습 과정에 통합함으로써 예측 불가능한 회로 행동에 대한 민감도를 크게 감소시킬 수 있음을 확인하였다.
• 추론 하드웨어를 변경하지 않아도 되므로 항공우주 및 임베디드 시스템에 구현하기에 실용적이다.