[논문 리뷰] High speed and reconfigurable optronic neural network with digital nonlinear activation

Qiuhao Wu, Jia Liu외 3명|arXiv (Cornell University)|2021. 03. 14.

Neural Networks and Reservoir Computing참고 문헌 38인용 수 2

한 줄 요약

이 논문은 4f 시스템과 디지털 비선형 활성화를 사용하여 고속이고 재구성 가능한 자유공간 옵트로닉 신경망을 제안하며, 단지 세 개의 레이어로 MNIST 데이터셋에서 93.66%의 정확도를 달성한다. 이 시스템은 DMD와 단일 위상 SLM을 활용하여 가중치와 편향을 프로그래밍함으로써 빠르고 확장 가능하며 프로그래머블한 광학 추론을 실현하며, 낮은 공간 복잡도와 높은 에너지 효율성을 제공한다.

ABSTRACT

With its unique parallel processing capability, optical neural network has shown low-power consumption in image recognition and speech processing. At present, the manufacturing technology of programmable photonic chip is not mature, and the realization of optical neural network in free-space is still a hot spot of intelligent optical computing. In this article, based on MNIST datasets and 4f system, three-layer optical neural networks are constructed, whose recognition accuracy can reach 93.66%. Our network is programmable, high speed, reconfigurable and is better than the existing free-space optical neural network in terms of spatial complexity.

연구 동기 및 목표

• 고정형 회절성 또는 하이브리드 옵토전자닉 시스템의 한계를 극복하는 고속이고 재구성 가능한 광학 신경망을 개발하는 것.
• 자유공간 광학 신경망에서 공간 복잡도를 감소시키고 확장성을 향상시키는 것.
• 디지털 비선형 활성화와 프로그래머블 광학 구성 요소를 활용하여 단지 세 개의 레이어로도 높은 인식 정확도를 달성하는 것.
• 실시간 지능형 광학 계산에 적합한 저지연 및 저소비 전력 시스템을 구현하는 것.

제안 방법

• 네트워크는 푸리에 변환을 통해 행렬 곱셈을 수행하는 4f 광학 시스템을 사용하여 효율적인 공간 컨볼루션을 가능하게 한다.
• 입력 이미지는 머신-지엔더 간섭계(MZI)를 사용하여 사전 처리되며, 수직 극화 파동의 강도 초월을 통해 WX + B 연산을 실현한다.
• 학습된 가중치와 편향을 나타내는 위상 마스크는 단일 위상 공간 광학 조절기(SLM)에 로드되며, DMD는 입력 신호를 제어하고 재구성 가능성을 보장한다.
• 출력 필드는 고속 sCMOS 카메라로 캡처되고, 디지털로 ReLU 또는 SoftMax 함수를 사용하여 활성화된다.
• 시스템은 확장 가능하다: 추가 레이어는 디지털 출력을 DMD로 다시 피드백하고 SLM 위상 마스크를 업데이트하여 구현된다.
• 빛의 속도와 고대역폭 DMD/SLM 장치의 빠른 동작 덕분에 전체 시스템은 레이어당 몇 밀리초 이내의 극히 낮은 지연을 보인다.

실험 결과

연구 질문

• RQ1 자유공간 옵트로닉 신경망은 최소한의 레이어와 낮은 공간 복잡도로도 높은 인식 정확도를 달성할 수 있는가?
• RQ2 고정된 회절성 요소 없이 어떻게 옵티컬 신경망을 재구성 가능하고 확장 가능하게 만들 수 있는가?
• RQ3 순수한 광학 컨볼루션 아키텍처에서 디지털 비선형 활성화를 사용한 시스템의 성능은 어떠한가?
• RQ4 이러한 시스템은 고속과 저전력 소비를 유지하면서도 디지털 또는 하이브리드 신경망과 경쟁 가능한 정확도를 달성할 수 있는가?
• RQ5 프로그래머블 광학 구성 요소(DMD, SLM)의 통합은 시스템의 지연과 에너지 효율성에 어떤 영향을 미치는가?

주요 결과

• 세 레이어의 옵트로닉 신경망은 MNIST 데이터셋에서 93.66%의 인식 정확도를 달성하여, 여러 기존의 자유공간 및 회절성 옵티컬 네트워크를 뛰어넘었다.
• 일 레이어 버전은 86.06%의 정확도를 기록하여 깊이가 증가할수록 성능 향상이 이루어짐을 입증했다.
• 빛의 속도와 고속 DMD/SLM 구성 요소 덕분에 시스템은 레이어당 몇 밀리초 이내의 극도로 낮은 지연을 보였다.
• 에너지 효율성은 약 4.94×10^17 FLOPs per joule로 추정되어 기존 디지털 시스템보다 훨씬 낮은 전력 소비를 나타낸다.
• 프로그래머블 DMD와 SLM의 사용은 완전한 재구성 가능성과 확장성을 가능하게 하여 네트워크 파rameter와 레이어 수를 동적으로 조정할 수 있도록 했다.
• MZI 기반 강도 초월을 통한 광학 사전 처리가 수직 극화 파동을 사용하여 선형 변환 WX + B를 성공적으로 모방하며 효율적인 아날로그 계산을 가능하게 했다.