[논문 리뷰] RxNN: A Framework for Evaluating Deep Neural Networks on Resistive Crossbars

Shubham Jain, Abhronil Sengupta외 2명|arXiv (Cornell University)|2018. 08. 31.

Advanced Memory and Neural Computing인용 수 4

한 줄 요약

RxNN는 저항성 크로스바 하드웨어에서 대규모 딥 네URAL 네트워크(DNNs)를 평가하기 위해 장치 및 회로 비이상성 요소를 빠른 크로스바 모델(FCM)을 통해 모델링하는 빠르고 정확한 시뮬레이션 프레임워크이다. 이 프레임워크는 응용 수준의 정확도 평가와 재학습을 가능하게 하여 비이상성으로 인한 최대 32%의 정확도 저하를 드러내며, 재학습을 통해 최대 26%의 정확도 향상을 입증하였다.

ABSTRACT

Resistive crossbars designed with non-volatile memory devices have emerged as promising building blocks for Deep Neural Network (DNN) hardware, due to their ability to compactly and efficiently realize vector-matrix multiplication (VMM), the dominant computational kernel in DNNs. However, a key challenge with resistive crossbars is that they suffer from a range of device and circuit level non-idealities such as interconnect parasitics, peripheral circuits, sneak paths, and process variations. These non-idealities can lead to errors in VMMs, eventually degrading the DNN's accuracy. It is therefore critical to study the impact of crossbar non-idealities on the accuracy of large-scale DNNs. However, this is challenging because existing device and circuit models are too slow to use in application-level evaluations. We present RxNN, a fast and accurate simulation framework to evaluate large-scale DNNs on resistive crossbar systems. RxNN splits and maps the computations involved in each DNN layer into crossbar operations, and evaluates them using a Fast Crossbar Model (FCM) that accurately captures the errors arising due to crossbar non-idealities while being four-to-five orders of magnitude faster than circuit simulation. FCM models a crossbar-based VMM operation using three stages - non-linear models for the input and output peripheral circuits (DACs and ADCs), and an equivalent non-ideal conductance matrix for the core crossbar array. We implement RxNN by extending the Caffe machine learning framework and use it to evaluate a suite of six large-scale DNNs developed for the ImageNet Challenge. Our experiments reveal that resistive crossbar non-idealities can lead to significant accuracy degradations (9.6%-32%) for these large-scale DNNs. To the best of our knowledge, this work is the first quantitative evaluation of the accuracy of large-scale DNNs on resistive crossbar based hardware.

연구 동기 및 목표

• 저항성 크로스바 기반 하드웨어에서 대규모 DNN을 평가하기 위한 확장 가능하고 정확한 시뮬레이션 프레임워크의 부족을 해결하기 위해.
• 스누크 패스, 비선형성, 공정 변동성 등의 장치 및 회로 비이상성의 영향을 실제 응용에서 DNN 정확도에 미치는 영향을 정량화하기 위해.
• 크로스바 비이상성으로 인한 정확도 저하를 보완하기 위해 모델 인 더 루프 재학습을 가능하게 하기 위해.
• 대규모 크로스바 기반 DNN 평가를 위한 SPICE 수준의 시뮬레이션에 비해 빠르면서도 정확한 대안을 제공하기 위해.
• 대규모 DNN 추론 및 학습을 위한 에너지 효율적이고 신뢰할 수 있는 저항성 크로스바 시스템 설계의 기반을 마련하기 위해.

제안 방법

• RxNN는 크로스바 인식 가능한 추론 및 학습 파이프라인을 통합하기 위해 Caffe 딥 러닝 프레임워크를 확장한다.
• 이것은 DNN 레이어를 크로스바 연산으로 분해하고 빠른 크로스바 모델(FCM)을 사용하여 저항성 크로스바 하드웨어에 매핑한다.
• FCM는 벡터-행렬 곱셈을 세 단계로 모델링한다: 비선형 입력(DAC), 비이상성 도전도 행렬(크로스바 코어), 비선형 출력(ADC).
• FCM는 드라이버 저항, 감지 저항, 스누크 패스, 인터커넥트 파라사이트, 확률적 쓰기 등 입력에 따라 달라지는 오차를 포괄한다.
• FCM는 SPICE 시뮬레이션 대비 4~5개 주기의 속도 향상을 달성하면서도 DNN 추론 오차 예측에 높은 정확도를 유지한다.
• RxNN는 대규모 DNN(예: ImageNet 모델)의 엔드 투 엔드 평가를 지원하며, 크로스바 인식 가능한 손실 함수를 사용한 반복적 재학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 저항성 크로스바의 장치 및 회로 비이상성은 대규모 DNN의 추론 정확도에 얼마나 큰 영향을 미치는가?
• RQ2 비선형성, 스누크 패스, 공정 변동성 등의 비이상성은 다양한 네트워크 깊이와 아키텍처에서 DNN 정확도에 어떻게 영향을 미치는가?
• RQ3 RxNN와 같은 빠르고 정확한 시뮬레이션 프레임워크는 크로스바 비이상성으로 인한 정확도 손실을 복구하기 위해 효과적인 재학습을 가능하게 할 수 있는가?
• RQ4 저항성 크로스바에 매핑될 때, 다양한 DNN 아키텍처(예: AlexNet, VGG-16, ResNet-50)에서 정확도 저하가 어떻게 달라지는가?
• RQ5 저항성 크로스바 기반 DNN 가속기에서 시스템 에너지 효율성과 응용 수준의 정확도 사이의 상호 상충 관계는 어떠한가?

주요 결과

• 저항성 크로스바의 비이상성은 대규모 DNN에서 정확도 저하를 야기하며, 6개의 ImageNet 모델에서 9.6%에서 32%까지 다양하게 나타난다.
• 이상적인 6비트 크로스바 설계에서 비이상적 구현으로의 전환 시 가장 큰 정확도 저하가 발생함을 확인하여, 비이상성—단지 정밀도 제한 이상의 요소—가 성능에 상당한 영향을 미친다.
• RxNN를 사용한 재학습은 단 150회 반복 후 GoogleNet에서 최대 26%의 정확도 손실 복구, VGG-16에서는 8%, AlexNet에서는 9%의 복구를 달성한다.
• 더 깊은 레이어(예: Conv3)는 누적된 비이상성으로 인해 더 뚜렷한 특징 왜곡을 보이며, 이는 네트워크 깊이가 증가할수록 정확도 저하가 증가함을 확인한다.
• 빠른 크로스바 모델(FCM)은 SPICE 시뮬레이션 대비 4~5개 주기의 속도 향상을 달성하면서도 입력 및 가중치에 따라 달라지는 오차를 정확하게 모델링한다.
• 본 연구는 저항성 크로스바 시스템에서 대규모 DNN의 정량적이고 응용 수준의 평가를 처음으로 수행하여 실세계 구현에 있어 근본적인 과제를 드러냈다.