[논문 리뷰] A Coupled CMOS Oscillator Array for 8ns and 55pJ Inference in Convolutional Neural Networks

Dmitri E. Nikonov, Peter Kurahashi외 4명|arXiv (Cornell University)|2019. 10. 25.

Advanced Memory and Neural Computing참고 문헌 8인용 수 6

한 줄 요약

이 논문은 26개의 레지스터 오실레이터를 사용하여 입력 데이터를 주파수 이동으로 표현하고 오실레이터 동기화를 통해 내적 곱 연산을 수행함으로써 8ns에 55pJ의 에너지 소비로 컨volutional 신경망(CNN) 추론을 수행하는 결합된 CMOS 오실레이터 어레이를 제시한다. 이 시스템은 위상일치 오실레이터를 사용한 아날로그 영역 연산을 통해 초저지연 및 초저에너지 효율성을 달성하며, 동기화 정도와 내적 곱 값 간의 높은 상관관계를 보여준다.

ABSTRACT

Oscillator neural networks (ONN) based on arrays of 26 CMOS ring oscillators designed and fabricated. ONN are used for inference of dot products with image fragments and kernels necessary for convolutional neural networks. The inputs are encoded as frequency shifts of oscillators using current DACs. Degree of match (DOM) is determined from oscillators synchronization. Measurements demonstrate high correlation of DOM and dot products. Inference requires the time of 8ns and energy of 55pJ.

연구 동기 및 목표

• 컨volutional 신경망 추론을 위한 고에너지 효율성 및 저지연 하드웨어 가속기 개발.
• CMOS 오실레이터를 결합하여 CNN 내의 내적 곱 연산을 수행하는 아날로그 영역 연산 탐색.
• 확장 가능한 오실레이터 어레이 아키텍처를 사용하여 10ns 이내의 추론 시간과 100pJ 이내의 에너지 소비 달성.
• 하드웨어 구현을 통해 오실레이터 동기화(일치 정도)와 계산된 내적 곱 값 간의 상관관계 검증.

제안 방법

• 시스템은 각각 입력 신호에 의해 전류 DAC를 통해 주파수 이동을 유도하는 26개의 CMOS 레지스터 오실레이터로 구성된 어레이를 사용한다.
• 입력 데이터(이미지 조각 및 커널)는 개별 오실레이터 내에서 전류 제어 주파수 이동으로 인코딩된다.
• 입력 패턴과 커널 가중치 간의 일치 정도(DOM)는 결합된 오실레이터의 동기화 상태에서 추출된다.
• 오실레이터 간 상호 결합을 통해 동기화가 달성되며, 위상일치 상태는 높은 내적 곱 값에 해당한다.
• 시스템은 안정된 동기화에 도달하는 데 걸리는 시간을 추론 시간으로 측정하며, 이는 최종 추론 결과에 해당한다.
• 디지털 산술 연산을 피하기 위해 아날로그 연산을 활용함으로써 에너지 소비와 지연을 감소시킨다.

실험 결과

연구 질문

• RQ1 결합된 CMOS 레지스터 오실레이터 어레이가 아날로그 영역에서 CNN 추론을 위한 정확한 내적 곱 연산을 수행할 수 있는가?
• RQ2 오실레이터 기반 신경망 가속기의 추론 지연과 에너지 효율성은 어느 정도 달성 가능한가?
• RQ3 실제 하드웨어 환경에서 오실레이터 동기화 정도와 실제 내적 곱 값 간의 상관관계는 얼마나 높은가?
• RQ4 주파수 변조된 입력은 CNN 내 패턴 매칭을 위해 오실레이터 상태에 효과적으로 매핑될 수 있는가?

주요 결과

• 시스템은 8ns의 추론 시간을 달성하여 10ns 이내의 작동을 입증한다.
• 추론 당 에너지 소비는 55pJ로 측정되어 초저전력 작동을 실현한다.
• 오실레이터 동기화 정도와 계산된 내적 곱 값 간에 강한 상관관계가 관찰된다.
• 하드웨어 구현은 이미지 조각 및 커널 입력을 주파수 이동으로 효과적으로 매핑하고 동기화를 통해 일치를 탐지한다.
• 오실레이터 어레이가 아날로그 신호 처리를 통해 고속·저에너지 CNN 추론에 실현 가능함을 보여준다.