[논문 리뷰] Always-On, Sub-300-nW, Event-Driven Spiking Neural Network based on Spike-Driven Clock-Generation and Clock- and Power-Gating for an Ultra-Low-Power Intelligent Device

Dewei Wang, Pavan Kumar Chundi외 7명|arXiv (Cornell University)|2020. 06. 22.

Advanced Memory and Neural Computing참고 문헌 14인용 수 4

한 줄 요약

이 논문은 스파이크 기반 클럭 생성과 병합된 클럭 및 파wr 게이팅 기법을 활용하여 300nW 이하의 전력 소비를 달성하는 이벤트 기반 스파iking 신경망(SNN) 아키텍처를 제안한다. 이 설계는 항상 켜진 키워드 스트링과 유사한 AI 워크로드를 고정밀 추론 정확도로 구현하면서도 동적 및 정적 전력을 활동 인식 기반 클럭 및 전력 관리로 최소화하여 초저전력 스마트 엣지 장치에 이상적인 솔루션을 제공한다.

ABSTRACT

Always-on artificial intelligent (AI) functions such as keyword spotting (KWS) and visual wake-up tend to dominate total power consumption in ultra-low power devices. A key observation is that the signals to an always-on function are sparse in time, which a spiking neural network (SNN) classifier can leverage for power savings, because the switching activity and power consumption of SNNs tend to scale with spike rate. Toward this goal, we present a novel SNN classifier architecture for always-on functions, demonstrating sub-300nW power consumption at the competitive inference accuracy for a KWS and other always-on classification workloads.

연구 동기 및 목표

• 초저전력 장치에서 항상 케이블 AI 기능(예: 키워드 스트링)의 높은 전력 소비 문제를 해결하기 위해.
• 항상 케이블 워크로드에서 입력 신호의 시간적 희소성(스파이크 빈도)을 활용하여 에너지 효율성을 극대화하기 위해.
• 300nW 이하에서 작동하면서도 경쟁력 있는 추론 정확도를 유지하는 스파킹 신경망(SNN) 분류기 개발을 위해.
• 스파이크 기반 클럭 생성과 이중 클럭 및 파워 게이팅을 통합하여 동적 및 누설 전력을 최소화하기 위해.
• 배터리 구동 및 에너지 제약이 있는 시스템에서 실용적인 항상 케이블 AI의 구현을 가능하게 하기 위해.

제안 방법

• SNN는 입력 스파이크가 발생할 때만 클럭 신호가 활성화되는 스파이크 기반 클럭 생성 기법을 적용하여, 무작위 전환 활동을 줄인다.
• 비활성 처리 유닛에 대해서만 클럭 게이팅을 적용하여, 비활성 기간 동안의 동적 전력 소비를 최소화한다.
• 사용하지 않을 경우 전체 기능 블록을 비활성화하는 파워 게이팅을 사용하여 누설 전력을 크게 감소시킨다.
• 이벤트 기반 동작과 계층적 클럭 및 전력 제어를 통합하여 스파이크 빈도에 따라 전력 소비를 스케일링한다.
• 저전압 작동을 최적화하고, 추가적인 전력 오버헤드를 줄이기 위해 이방향 논리를 활용한다.
• 표준 CMOS 공정을 사용해 제작되었으며, 키워드 스트링 및 유사 작업에서 실시간 추론에 대한 검증이 완료되었다.

실험 결과

연구 질문

• RQ1 스파이크 기반 클럭 생성이 항상 케이블 SNN의 동적 전력을 효과적으로 줄일 수 있는가? 성능에 영향을 주지 않고 가능할까?
• RQ2 희소 입력 신호를 가진 SNN에서 클럭 및 파워 게이팅을 병합 적용했을 때 전력 소비를 얼마나 줄일 수 있는가?
• RQ3 키워드 스트링 작업에서 경쟁력 있는 추론 정확도를 유지하면서 SNN이 도달할 수 있는 최소 전력 소비는 얼마인가?
• RQ4 이벤트 기반 동작과 전력 관리 기법을 통합했을 때 면적 및 지연 시간 오버헤드에 어떤 영향을 미치는가?
• RQ5 제안된 아키텍처는 초저전력 엣지 장치에서 실용적인 항상 케이블 AI의 구현을 가능하게 하는가?

주요 결과

• 제안된 SNN는 추론 중 총 전력 소비가 300nW 이하에 도달하여, 300nW 이하 작동을 입증하였다.
• 시스템은 키워드 스트링 작업에서 기존 DNN와 비교해 경쟁력 있는 추론 정확도를 유지하였다.
• 스파이크 기반 클럭 생성은 침묵 기간 동안의 비활성 클럭 사이클을 제거하여 동적 전력을 감소시켰다.
• 클럭 및 파워 게이팅을 병행 적용함으로써 동적 전력과 누설 전력을 모두 억제하여 초저전력 작동에 기여하였다.
• 최소한의 에너지 오버헤드로 항상 케이블 기능을 제공하여, 배터리 구동 엣지 장치에 적합하였다.
• 작은 크기의 저에너지 지능형 시스템에 통합하기에 적합한 전력-면적 효율성을 달성하였다.