[논문 리뷰] Q-EEGNet: an Energy-Efficient 8-bit Quantized Parallel EEGNet Implementation for Edge Motor-Imagery Brain--Machine Interfaces

Tibor Schneider, Xiaying Wang외 3명|arXiv (Cornell University)|2020. 04. 24.

EEG and Brain-Computer Interfaces참고 문헌 22인용 수 41

한 줄 요약

이 논문은 엣지 디바이스에서 운동 상상 뇌기계인터페이스를 위한 EEGNet의 8비트 정밀도 양자화 및 에너지 효율적인 구현인 Q-EEGNet을 제안한다. 양자화 인식 훈련, Mr. Wolf RISC-V SoC에서의 하드웨어 인식 병렬 처리, 그리고 교차 실행 파라다임을 조합함으로써 저자들은 오직 0.4%의 정확도 손실로 64배의 속도 향상과 85%의 메모리 감소를 달성하였으며, 이로 인해 추론 시간은 5.82 ms, 에너지 소비는 0.627 mJ에 그쳤다. 이는 이전의 ARM Cortex-M7 구현 대비 256배 더 에너지 효율적인 성능이다.

ABSTRACT

Motor-Imagery Brain--Machine Interfaces (MI-BMIs)promise direct and accessible communication between human brains and machines by analyzing brain activities recorded with Electroencephalography (EEG). Latency, reliability, and privacy constraints make it unsuitable to offload the computation to the cloud. Practical use cases demand a wearable, battery-operated device with low average power consumption for long-term use. Recently, sophisticated algorithms, in particular deep learning models, have emerged for classifying EEG signals. While reaching outstanding accuracy, these models often exceed the limitations of edge devices due to their memory and computational requirements. In this paper, we demonstrate algorithmic and implementation optimizations for EEGNET, a compact Convolutional Neural Network (CNN) suitable for many BMI paradigms. We quantize weights and activations to 8-bit fixed-point with a negligible accuracy loss of 0.4% on 4-class MI, and present an energy-efficient hardware-aware implementation on the Mr.Wolf parallel ultra-low power (PULP) System-on-Chip (SoC) by utilizing its custom RISC-V ISA extensions and 8-core compute cluster. With our proposed optimization steps, we can obtain an overall speedup of 64x and a reduction of up to 85% in memory footprint with respect to a single-core layer-wise baseline implementation. Our implementation takes only 5.82 ms and consumes 0.627 mJ per inference. With 21.0GMAC/s/W, it is 256x more energy-efficient than an EEGNET implementation on an ARM Cortex-M7 (0.082GMAC/s/W).

연구 동기 및 목표

• 에너지 제약이 있는 웨어러블 엣지 디바이스에 정확하고 저지연의 EEG 기반 뇌기계인터페이스(BMI)를 구현하는 도전 과제를 해결한다.
• 실시간 BMI 응용에 적합하지 않은 너무 느리고 전력 소모가 큰 전통적인 단일 코어, 부동소수점 구현 방식의 한계를 극복한다.
• 모델 양자화와 하드웨어 인식 최적화를 융합하여 자원 제약이 있는 마이크로컨트롤러에서 높은 추론 효율성을 달성한다.
• 클라우드 오프로딩을 제거하고 에너지 소비를 최소화함으로써 장치 내에서의 개인정보 보존이 가능한 BMI 추론을 가능하게 한다.

제안 방법

• 정확도 손실를 최소화하기 위해 양자화 인식 훈련과 무작위 분할 완화(RPR)를 사용하여 EEGNet의 가중치와 활성화를 8비트 고정소수점으로 양자화한다. 원래 정확도의 99.6%를 유지한다.
• 8코어 컴퓨팅 클러스터와 함께 커스텀 ISA 확장을 사용하여 Mr. Wolf RISC-V SoC에 양자화된 모델을 구현한다.
• 시간적 및 공간적 컨볼루션 계층을 겹치는 방식으로 처리하는 교차 실행 전략을 도입하여 메모리 사용량을 최대 85%까지 감소시킨다.
• PULP-DSP 라이브러리를 사용하여 특징 맵 복제, 배치 정규화(BN) 계층 융합, 루프 편집을 통해 메모리 접근과 계산을 최적화한다.
• 부동소수점 산술을 대체하기 위해 벡터화된 정수 연산을 활용하여 초저전력 마이크로컨트롤러에서 효율적인 실행을 가능하게 한다.
• 명령어 재정렬과 나눗셈 감소를 포함한 컴파일러 수준 최적화를 적용하여 성능과 에너지 효율성을 추가로 향상시킨다.

실험 결과

연구 질문

• RQ1 8비트 정밀도 양자화된 EEGNet이 정확도 손실를 극복하면서 실시간 성능 유지를 위해 엣지 디바이스에 적용 가능한가?
• RQ2 다중코어 RISC-V SoC에서의 병렬 처리가 EEG 기반 BMI의 추론 속도와 에너지 효율성에 어떻게 기여하는가?
• RQ3 교차 실행 모델이 자원 제약이 있는 임베디드 시스템에서 CNN 추론의 메모리 사용량을 줄일 수 있는가?
• RQ4 커스텀 ISA 사용 및 메모리 접근 재조직과 같은 하드웨어 인식 최적화가 엣지 AI 추론의 에너지 효율성 향상에 어느 정도 영향을 미치는가?
• RQ5 유사한 플랫폼에서 일반 목적의 딥러닝 라이브러리와 비교했을 때, 커스텀 최적화된 Q-EEGNet의 에너지 효율성은 어떻게 되는가?

주요 결과

• 8비트 고정소수점으로 양자화된 Q-EEGNet은 정확도 손실가 0.4%에 불과하며(BCI Competition IV-2a에서 70.9%), 높은 분류 성능을 유지한다.
• Mr. Wolf에서 최적화된 구현은 350 MHz에서 추론을 5.82 ms 내에 수행하며, 인퍼런스당 에너지 소비는 오직 0.627 mJ이다.
• 병렬 처리와 알고리즘 최적화를 통해 단일 코어 기반 구현 대비 64배의 속도 향상을 달성한다.
• 교차 계층 처리 전략을 사용함으로써 메모리 사용량이 최대 85% 감소(230.29 kB → 35.41 kB)하였다.
• 에너지 효율성은 20.957 GMAC/s/W에 도달하여, ARM Cortex-M7에 구현된 유사한 EEGNet 대비 256배 더 높은 에너지 효율성을 확보하였다.
• 일반 목적의 라이브러리인 PULP-NN과 CUBE.AI보다 속도는 3배, 에너지 효율성은 256배 뛰어나, 응용 분야에 특화된 최적화의 우수성을 입증한다.