[논문 리뷰] Stochastic Optimization of Nonlinear Nanophotonic Media for Artificial Neural Inference

Erfan Khoram, Ang Chen외 4명|arXiv (Cornell University)|2018. 10. 17.

Neural Networks and Reservoir Computing인용 수 1

한 줄 요약

이 논문은 빛을 사용하여 인공 신경망 추론을 수행하도록 비선형 나노광학 매체를 훈련하기 위한 확률적 최적화 프레임워크를 제안한다. 미세한 산란체를 가중치로 활용함으로써, 시스템은 이미지와 같은 인코딩된 파면을 집중된 에너지 패턴으로 변환하여 계산 결과를 나타내며, 전통적인 광학 장치를 뛰어넘는 높은 밀도와 초고속의 광학 계산을 실현한다.

ABSTRACT

We show that optical waves passing through a nanophotonic medium can perform artificial neural computing. Complex information, such as an image, is encoded in the wave front of an input light. The medium continuously transforms the wave front to realize highly sophisticated computing tasks such as image recognition. At the output, the optical energy is concentrated to well defined locations, which for example can be interpreted as the identity of the object in the image. These computing media can be as small as tens of wavelengths and offer ultra-high computing density. They exploit sub-wavelength linear and nonlinear scatterers to realize complex input-output mapping far beyond the capabilities of traditional nanophotonic devices. All structural degrees of freedom can be used as training weights, forming a vast parameter space with strong expressive power.

연구 동기 및 목표

• 비선형 산란체를 갖춘 나노광학 매체를 훈련시켜 복잡한 광학 계산 작업을 수행할 수 있는 방법을 개발하기 위해.
• 전자 부품 없이도 설계된 광학 구조의 물리적 성질만을 이용해 인공 신경망 추론을 가능하게 하기 위해.
• 매우 넓은 매개변수 공간에서 모든 구조적 자유도를 훈련 가능한 매개변수로 활용하여 높은 계산 밀도를 달성하기 위해.
• 광학 파면이 비선형 매체를 통과할 때 계산 결과에 해당하는 해석 가능한 출력 에너지 분포를 생성할 수 있음을 입증하기 위해.
• 이미지 인식과 같은 작업에 대해 마이크로미터 이하의 비선형 나노광학 시스템의 표현 능력을 탐색하기 위해.

제안 방법

• 입력 정보, 예를 들어 이미지를 광선의 파면에 인코딩한다.
• 선형 및 비선형 미세 산란체로 구성된 나노광학 매체가 신경망 추론을 위한 미분 가능한 물리 모델로 기능한다.
• 입력 파면을 원하는 출력 에너지 분포로 매핑하기 위해 매체의 구조적 매개변수를 조정하기 위해 확률적 최적화를 적용한다.
• 매체 내 모든 구조적 자유도가 훈련 가능한 가중치로 사용되며, 강력한 표현 능력을 지닌 고차원 매개변수 공간을 형성한다.
• 출력은 광학적 에너지의 공간 집중도에 기반하여, 이미지 인식에서 객체 식별과 같은 계산 결과로 해석된다.
• 파면 변환을 통해 복잡한 입력-출력 매핑을 수행할 수 있도록, 물리적 매체의 엔드 투 엔드 훈련을 가능하게 한다.

실험 결과

연구 질문

• RQ1 비선형 나노광학 매체는 확률적 최적화를 통해 인공 신경망 추론을 수행할 수 있는가?
• RQ2 광학 매체 내의 모든 마이크로미터 이하 산란체가 기존 나노광학 장치를 뛰어넘는 복잡한 입력-출력 매핑을 얼마나 잘 실현할 수 있는가?
• RQ3 모든 구조적 자유도를 훈련 가능한 매개변수로 사용할 경우, 시스템의 표현 능력에 어떤 영향을 미치는가?
• RQ4 이와 같은 매체를 통해 광학 파면이 변형되어 계산 결과에 해당하는 해석 가능한 출력 패턴을 생성할 수 있는가?
• RQ5 이러한 시스템은 초고밀도, 전적으로 광학적인 계산에 대해 어떤 잠재력을 지니는가?

주요 결과

• 나노광학 매체는 계산 결과에 해당하는 집중된 에너지 패턴으로 광학 파면을 변환함으로써 인공 신경망 추론을 성공적으로 수행한다.
• 장치가 수십 파장 이내로 작을 수 있을 정도로 높은 계산 밀도를 달성한다.
• 모든 구조적 자유도를 훈련 가능한 가중치로 사용함으로써, 기존 나노광학 장치를 훨씬 뛰어넘는 강력한 표현 능력을 확보한다.
• 비선형 산란체는 선형 시스템만으로는 구현할 수 없는 복잡한 입력-출력 매핑을 가능하게 한다.
• 물리적 광학 구조가 빛의 파면 조작만으로도 이미지 인식과 같은 고도로 복잡한 계산 작업을 수행할 수 있음을 입증한다.
• 프레임워크는 물리적 매체의 엔드 투 엔드 훈련을 지원하여 전체 구조의 최적화를 원하는 계산 결과를 위해 가능하게 한다.