[논문 리뷰] RecLight: A Recurrent Neural Network Accelerator with Integrated Silicon Photonics

Febin Sunny, Mahdi Nikdast외 1명|arXiv (Cornell University)|2022. 08. 31.

Neural Networks and Reservoir Computing인용 수 7

한 줄 요약

RecLight는 통합 실리콘 포토닉스를 활용하여 순환 신경망(RNN), 특히 GRU와 LSTM의 추론을 가속화하는 포토닉 하드웨어 가속기입니다. 광학적 행렬 곱셈과 저지연 포토닉 인터커넥트를 활용하여 최신 기술 대비 37배 높은 에너지 효율성과 10% 높은 처리량을 달성하여 실시간 시퀀스 처리 워크로드에 있어 뚜렷한 효율성 우위를 입증합니다.

ABSTRACT

Recurrent Neural Networks (RNNs) are used in applications that learn dependencies in data sequences, such as speech recognition, human activity recognition, and anomaly detection. In recent years, newer RNN variants, such as GRUs and LSTMs, have been used for implementing these applications. As many of these applications are employed in real-time scenarios, accelerating RNN/LSTM/GRU inference is crucial. In this paper, we propose a novel photonic hardware accelerator called RecLight for accelerating simple RNNs, GRUs, and LSTMs. Simulation results indicate that RecLight achieves 37x lower energy-per-bit and 10% better throughput compared to the state-of-the-art.

연구 동기 및 목표

• 음성 인식 및 이상 탐지와 같은 실시간 시퀀스 처리 응용 분야에서의 에너지 효율적인 추론에 대한 증가하는 수요를 해결하기 위해.
• 순환 신경망(RNN), GRU 및 LSTM 처리에서 전자 가속기의 에너지 및 지연 장벽을 극복하기 위해.
• 고처리량과 저에너지 소비를 위한 RNN 워크로드와 통합 실리콘 포토닉스를 융합한 새로운 포토닉 가속기 아키텍처를 설계하기 위해.
• 광학적 병렬성과 저손실 전파를 활용하여 포토닉 컴퓨팅이 RNN 추론에서 전자 대비 우월한 성능을 보일 수 있음을 입증하기 위해.
• 시뮬레이션을 통해 제안된 아키텍처를 검증하여 에너지 효율성과 처리량 측면에서 측정 가능한 향상을 보여주기 위해.

제안 방법

• 재구성 가능한 포토닉 메시 아키텍처를 사용하여 실리콘 포토닉스의 빠름과 에너지 효율성을 활용해 병렬로 행렬 곱셈을 수행합니다.
• 학습 가능한 가중치를 RNN 레이어에 구현하기 위해 조절 가능한 광학적 위상 이동기로 작동하는 막스-지엔더 간섭계(MZIs)를 사용합니다.
• 처리 요소 간의 통신 지연을 줄이기 위해 광학 인터커넥트를 통합하여 전자적 제약을 최소화합니다.
• 하이브리드 전자-포토닉 제어 레이어를 통해 광학 구성 요소의 설정을 관리하고 RNN의 시간 단계 간 계산을 조율합니다.
• 광학 경로의 동적 재구성 기능을 통해 단순 RNN부터 GRU 및 LSTM과 같은 더 복잡한 변종까지 모두 지원합니다.
• 실제 워크로드 조건에서 에너지 효율성과 처리량을 평가하기 위해 표준 RNN 벤치마크를 사용해 시뮬레이션을 수행합니다.

실험 결과

연구 질문

• RQ1 통합 실리콘 포토닉스는 전자 가속기 대비 RNN 추론에서 비트당 에너지 소비를 크게 줄일 수 있는가?
• RQ2 포토닉 RNN 가속기의 처리량은 최신 전자 구현 대비 어떻게 비교되는가?
• RQ3 광학적 병렬성과 저손실 인터커넥트는 순환 신경망 워크로드 성능 향상에 얼마나 기여하는가?
• RQ4 RNN에서 전자 기반 행렬 곱셈을 포토닉 대체 기반으로 대체할 경우 에너지와 성능 간의 타협은 어느 정도 가능한가?
• RQ5 제안된 포토닉 아키텍처는 시퀀스 모델링 작업에서 뛰어난 에너지 효율성을 달성하면서도 높은 정확도를 유지할 수 있는가?

주요 결과

• RecLight는 최신 기술 대비 37배 높은 에너지 효율성을 확보하여 RNN 추론의 에너지 효율성 향상에 있어 중대한 도약을 이룩했습니다.
• 가속기는 기존 최고의 전자 솔루션 대비 10% 높은 처리량을 제공하여 계산 처리량 향상이 확인되었습니다.
• 포토닉 메시 아키텍처는 광신호의 고대역폭을 활용해 최소한의 지연으로 병렬 행렬 곱셈을 가능하게 했습니다.
• 가중치 구현을 위해 조절 가능한 MZIs를 사용함으로써 GRU 및 LSTM과 같은 다양한 RNN 변종 간의 재구성 가능성이 확보되었습니다.
• 시뮬레이션 결과는 포토닉 설계가 표준 RNN 워크로드와의 호환성을 유지하면서도 에너지 소비를 크게 감소시킴을 확인했습니다.
• 결과적으로 포토닉 가속은 실시간 시퀀스 처리에 있어 전자 가속보다 실현 가능하고 열등한 대안임을 시사합니다.