[논문 리뷰] NeurOLight: A Physics-Agnostic Neural Operator Enabling Parametric Photonic Device Simulation

Jiaqi Gu, Zhengqi Gao외 5명|arXiv (Cornell University)|2022. 09. 19.

Neural Networks and Reservoir Computing인용 수 12

한 줄 요약

NeurOLight는 광학 기기의 매개변수화된 주파수 도메인 맥스웰 PDE를 초고속 추론으로 학습할 수 있는 물리학 무관 신경 연산자 프레임워크이다. 통합된 도메인 이산화, 압축된 파동 사전 인코딩, 마스킹된 소스 모델링, 초순수 기반 데이터 증강을 통한 파arameter 효율적인 교차형 FNO 백본을 사용함으로써, FDFD 솔버보다 2개 정도의 속도 향상을 달성하고, 최신 기술 대비 예측 오차를 54% 감소시켰으며, 파rameter 수는 44% 줄였다.

ABSTRACT

Optical computing is an emerging technology for next-generation efficient artificial intelligence (AI) due to its ultra-high speed and efficiency. Electromagnetic field simulation is critical to the design, optimization, and validation of photonic devices and circuits. However, costly numerical simulation significantly hinders the scalability and turn-around time in the photonic circuit design loop. Recently, physics-informed neural networks have been proposed to predict the optical field solution of a single instance of a partial differential equation (PDE) with predefined parameters. Their complicated PDE formulation and lack of efficient parametrization mechanisms limit their flexibility and generalization in practical simulation scenarios. In this work, for the first time, a physics-agnostic neural operator-based framework, dubbed NeurOLight, is proposed to learn a family of frequency-domain Maxwell PDEs for ultra-fast parametric photonic device simulation. We balance the efficiency and generalization of NeurOLight via several novel techniques. Specifically, we discretize different devices into a unified domain, represent parametric PDEs with a compact wave prior, and encode the incident light via masked source modeling. We design our model with parameter-efficient cross-shaped NeurOLight blocks and adopt superposition-based augmentation for data-efficient learning. With these synergistic approaches, NeurOLight generalizes to a large space of unseen simulation settings, demonstrates 2-orders-of-magnitude faster simulation speed than numerical solvers, and outperforms prior neural network models by ~54% lower prediction error with ~44% fewer parameters. Our code is available at https://github.com/JeremieMelo/NeurOLight.

연구 동기 및 목표

• 기존 수치적 솔버의 높은 계산 비용과 일반화 능력의 한계를 해결하기 위해.
• 물리학에 기반한 신경망(PINNs)의 한계를 극복하기 위해, 고정된 PDE 사례에 국한되고 명시적인 PDE 수식이 필요로 하는 제약을 제거하기 위해.
• 단일 훈련 프레임워크 내에서 다양한 기기 기하학, 허용도, 입력 소스, 주파수에 대해 일반화 가능한 서rogate 모델을 개발하기 위해.
• 스케일러블한 AI 공동 설계를 위한 맞춤형 광학 기기에서의 복소수 광장 분포를 효율적이고 종단 간(end-to-end)으로 시뮬레이션할 수 있도록 하기 위해.
• 매개변수화된 광학 회로 설계 및 최적화를 위한 고속, 저오차 추론을 달성하기 위해.

제안 방법

• 다양한 광학 기기를 통합된 공간 도메인으로 이산화하여, 다양한 기하학적 구조 간의 공통된 표현 학습을 가능하게 하였다.
• 명시적인 PDE 수식 없이 주파수 및 물성 정보를 압축된 파동 사전 인코딩을 통해 매개변수화된 PDE로 표현하였다.
• 마스킹된 소스 주입을 통한 입사광 모델링을 통해 추론 시에 다양한 흥분 조건을 유연하게 구현하였다.
• 장거리 필드 상호작용과 간섭 현상을 효과적으로 포착하기 위해 효율적인 푸리에 기반 연산을 사용한 교차형 신경 연산자 백본을 설계하였다.
• 훈련 중의 데이터 효율성과 일반화 능력을 향상시키기 위해 초순수 기반 믹업 증강 기법을 도입하였다.
• 복소수 광장 분포를 예측하기 위해 공동 PDE 인코더와 신경 연산자를 사용해 종단 간(end-to-end)으로 모델을 훈련시켰다.

실험 결과

연구 질문

• RQ1 물리학에 의존하지 않는 신경 연산자 프레임워크는 다양한 광학 기기 설계, 허용도, 흥분 조건에 대해 일반화할 수 있는가?
• RQ2 명시적인 PDE 수식 없이도 서rogate 모델이 맥스웰 방정식의 근본적인 물리 법칙을 어떻게 학습할 수 있는가?
• RQ3 데이터 증강 기법은 광장 분포 시뮬레이션에서 일반화 능력 향상과 데이터 요구량 감소에 얼마나 기여하는가?
• RQ4 신경 연산자 기반 프레임워크는 기존의 FDFD 솔버보다 수십만 배의 속도 향상을 달성하면서도 높은 정확도를 유지할 수 있는가?
• RQ5 제안된 아키텍처는 예측 정밀도, 파rameter 효율성, 이식성 측면에서 최신 기술 대비 어떻게 비교되는가?

주요 결과

• 8코어 CPU에서 FDFD 솔버 대비 NeurOLight는 140배에서 200배 빠른 추론 속도를 기록하여 단일 GPU에서 2개 정도의 속도 향상을 입증하였다.
• 다양한 벤치마크에서 최신 기술 대비 평균 53.8%의 예측 오차 감소를 달성하였으며, UNet 및 FNO 변종을 포함한 여러 모델을 초월하였다.
• 158만 개의 파rameter만을 사용함으로써, 가장 성능이 뛰어난 베이스라인 대비 44.2% 적은 파rameter로도 뛰어난 정확도를 달성하였다.
• 훈련 분포를 초월한 새로운 기하학, 허용도, 입력 소스, 주파수를 포함한 새로운 기기 구성에 대해 일반화 능력을 보였다.
• 초순수 기반 믹업 증강은 데이터 효율성과 일반화 능력을 크게 향상시켜 제한된 훈련 데이터로도 견고한 성능을 발휘할 수 있도록 하였다.
• 공동 PDE 인코더와 교차형 FNO 아키텍처는 통합 광학 기기에서의 복잡한 빛의 전파, 산란, 간섭 현상을 효과적으로 포착하였다.