[논문 리뷰] A framework for automated PDE-constrained optimisation

Simon W. Funke, Patrick E. Farrell|arXiv (Cornell University)|2013. 02. 15.

Advanced Numerical Methods in Computational Mathematics참고 문헌 55인용 수 64

한 줄 요약

이 논문은 FEniCS와 dolfin-adjoint를 사용하여 PDE-제약 최적화를 위한 고수준 자동화 프레임워크를 제시한다. 사용자는 수학적 표기와 유사한 형태로 복잡한 최적화 문제를 지정할 수 있으며, 알고리즘적 미분을 통해 자동으로 애드조인 방정식을 유도하고 해를 구한다. 이로 인해 근사 최적 효율성(비율 1.55)을 달성하며, 최소한의 사용자 코드로 역문제와 최적 제어 문제를 빠르게 해결할 수 있다.

ABSTRACT

A generic framework for the solution of PDE-constrained optimisation problems based on the FEniCS system is presented. Its main features are an intuitive mathematical interface, a high degree of automation, and an efficient implementation of the generated adjoint model. The framework is based upon the extension of a domain-specific language for variational problems to cleanly express complex optimisation problems in a compact, high-level syntax. For example, optimisation problems constrained by the time-dependent Navier-Stokes equations can be written in tens of lines of code. Based on this high-level representation, the framework derives the associated adjoint equations in the same domain-specific language, and uses the FEniCS code generation technology to emit parallel optimised low-level C++ code for the solution of the forward and adjoint systems. The functional and gradient information so computed is then passed to the optimisation algorithm to update the parameter values. This approach works both for steady-state as well as transient, and for linear as well as nonlinear governing PDEs and a wide range of functionals and control parameters. We demonstrate the applicability and efficiency of this approach on classical textbook optimisation problems and advanced examples.

연구 동기 및 목표

• 과학 계산에서 PDE-제약 최적화 문제를 구현하기 위해 필요한 복잡성과 수동 작업을 줄이기 위해.
• 정적인 및 시간에 따라 변화하는 PDE, 선형 및 비선형에 대해 애드조인 방정식의 유도와 해를 자동화하기 위해.
• 고수준 수학적 수식과 효율적이고 병렬 처리된 저수준 C++ 코드 생성 간의 원활한 인터페이스를 제공하기 위해.
• 유한 차분 근사치를 피하기 위해 자동 애드조인 모델 생성을 통한 효율적 기울기 계산을 가능하게 하기 위해.
• 최소한의 사용자 간섭으로 역문제와 최적 제어를 포함한 다양한 최적화 문제를 지원하기 위해.

제안 방법

• 프레임워크는 변분 형식을 위한 도메인 특화 언어를 확장하여, 복잡한 최적화 문제를 수학적 표기와 유사한 압축된 고수준 문법으로 표현한다.
• dolfin-adjoint를 통한 테입 기반 알고리즘적 미분을 사용하여 정방향 모델 실행을 기록하고 자동으로 애드조인 방정식을 유도한다.
• FEniCS의 코드 생성 기능을 활용하여 정방향 및 애드조인 PDE 해를 위한 최적화된 병렬 C++ 코드를 생성한다.
• 기능 평가와 기울기 계산은 정방향 테입 재실행 및 유도된 애드조인 시스템의 해를 통한 방식으로 수행된다.
• L-BFGS-B 등의 최적화 알고리즘을 프레임워크에 통합하여 기울기 정보에 기반한 매개변수 갱신을 수행한다.
• 일반적인 등식 및 부등식 제약 조건을 지원하며, 감소된 공간 및 전체 공간 설정 모두에 적용 가능하다.

실험 결과

연구 질문

• RQ1 최소한의 사용자 코드로 복잡한 PDE-제약 최적화 문제를 고수준 수학적 직관적 인터페이스로 지정할 수 있는가?
• RQ2 테입 기반 알고리즘적 미분을 통한 자동 애드조인 유도가 비선형 및 시간에 따라 변화하는 PDE에 대해 정확하고 효율적으로 수행될 수 있는가?
• RQ3 애드조인 모델의 계산 비용이 이론적 최소값(예: 뉴턴 방법에서 두 번의 반복일 경우 1.5배의 정방향 계산)에 얼마나 가까이 도달할 수 있는가?
• RQ4 이 프레임워크는 높은 정확도로 도전적인 역문제, 예를 들어 쓰시마 파도 재구성 문제를 효율적으로 해결할 수 있는가?
• RQ5 이 프레임워크는 하나의 스텝 최적화나 감소 차원 모델링과 같은 고급 최적화 기법을 얼마나 일반화하여 지원할 수 있는가?

주요 결과

• 프레임워크를 통해 PDE-제약 최적화 문제는 수학적 표기와 유사한 형태로 수십 줄의 코드로 지정할 수 있다.
• 애드조인 모델의 런타임 비율은 정방향 모델 대비 1.55로, 두 번의 반복을 요구하는 뉴턴 해법의 이론적 최적치 1.5에 매우 가까운 성능을 달성한다.
• 호쿠사이도-난세이오키 쓰시마 파도 프로파일 재구성에서 절대 오차는 3.91×10⁻⁷ cm이며, 이는 상대 오차가 3×10⁻⁵% 미만임을 의미한다.
• 최적화는 103회의 반복(113회의 기능 평가) 후 수렴하였으며, 기능 감소 폭이 머신 정밀도 이하로 떨어졌다.
• 프레임워크는 정적인 및 시간에 따라 변화하는 PDE, 선형 및 비선형 시스템을 포함한 다양한 애플리케이션에서 정상적으로 작동한다.
• 이 방법은 다양한 최적화 알고리즘과 제약 조건을 지원하며, 하나의 스텝 최적화나 감소 차원 모델링과 같은 고급 기법을 위한 기반을 제공한다.