[논문 리뷰] Physics-informed neural networks with hard constraints for inverse design

Lu Lu, Raphaël Pestourie외 4명|arXiv (Cornell University)|2021. 02. 09.

Topology Optimization in Engineering인용 수 48

한 줄 요약

본 논문은 PDE 제약 역설계에 대해 페널티 및 보강 라그랑지안 방법을 통해 하드 제약을 강제하는 물리정보 기반 신경망 프레임워크인 hPINN를 소개하며, 홀로그래피와 Stokes 흐름에서 시연한다.

ABSTRACT

Inverse design arises in a variety of areas in engineering such as acoustic, mechanics, thermal/electronic transport, electromagnetism, and optics. Topology optimization is a major form of inverse design, where we optimize a designed geometry to achieve targeted properties and the geometry is parameterized by a density function. This optimization is challenging, because it has a very high dimensionality and is usually constrained by partial differential equations (PDEs) and additional inequalities. Here, we propose a new deep learning method -- physics-informed neural networks with hard constraints (hPINNs) -- for solving topology optimization. hPINN leverages the recent development of PINNs for solving PDEs, and thus does not rely on any numerical PDE solver. However, all the constraints in PINNs are soft constraints, and hence we impose hard constraints by using the penalty method and the augmented Lagrangian method. We demonstrate the effectiveness of hPINN for a holography problem in optics and a fluid problem of Stokes flow. We achieve the same objective as conventional PDE-constrained optimization methods based on adjoint methods and numerical PDE solvers, but find that the design obtained from hPINN is often simpler and smoother for problems whose solution is not unique. Moreover, the implementation of inverse design with hPINN can be easier than that of conventional methods.

연구 동기 및 목표

• PDE 제약 역설계 문제를 토폴로지 최적화로 동기 부여하고 형식화한다.
• 전통적인 PDE 해석기에 의존하지 않고 역설계를 해결하기 위해 hPINN을 개발한다.
• PINN 내에 해석 가능하고 실행 가능한 설계가 되도록 등호/부등식의 하드 제약을 부과한다.
• 전통적인 adjoint 기반 PDE 제약 최적화 방법과의 성능을 hPINN과 비교한다.

제안 방법

• 해결책 u(x)와 설계 매개변수 gamma(x)을 근사하기 위해 두 개의 신경망을 도입한다.
• 자동 미분을 사용하여 PDE 및 경계 조건의 잔차를 페널티로 하는 PDE-정보 손실을 구성한다.
• 네트워크 아키텍처를 수정하여 Dirichlet 및 주기적 경계조건을 하드 제약으로 엄격히 부과한다.
• Soft 제약, 페널티 방법, 및 보강 라그랑지안 방법을 제시하여 PDE 및 부등식 제약을 하드 제약으로 강제한다.
• 훈련을 위한 알고리즘 절차(Penalty 방법용 Algorithm 1, Augmented Lagrangian용 Algorithm 2)를 제공한다.
• 광학의 홀로그래피와 Stokes flow 문제에서 hPINN을 시연하고, 전통적인 adjoint 기반 PDE 제약 최적화와 비교한다.

실험 결과

연구 질문

• RQ1 hPINN이 역설계 문제에서 PDE 제약 및 하드 부등식/경계 제약을 효과적으로 강제할 수 있는가?
• RQ2 토폴로지 최적화 설계에서 hPINN의 성능은 기존의 adjoint 기반 PDE 해석기에 비해 어떤가?
• RQ3 중복된 해가 존재하는 설정에서 하드 제약 형식이 더 간단하거나 더 매끄러운 설계를 초래하는가?
• RQ4 페널티 방법과 보강 라그랑지안 접근법의 수렴 특성과 실제 훈련 고려사항은 무엇인가?

주요 결과

• hPINN은 기존의 PDE 제약 최적화 방법과 동일한 목적 함수 성능을 달성한다.
• 하드 제약 구현은 종종 길이 스케일이나 매끄러움에 대한 추가 정규화를 필요 없이 더 간단하고 매끄러운 설계를 도출한다.
• 페널티 방법과 보강 라그랑지안 방법은 PINN에서 제약 조건을 강제하는 데 따른 악조건화 및 수렴 문제를 해결한다.
• 아키텍처 수정에 의한 하드 제약은 Dirichlet 및 주기적 경계 조건을 정확히 강제할 수 있다.
• 전방 테스트에서 PDE 잔차를 거의 0에 가깝게 유도할 수 있으며, 훈련이 진행될수록 L2 상대 오차가 개선된다.