[논문 리뷰] Learning for CasADi: Data-driven Models in Numerical Optimization

Tim Salzmann, Jon Arrizabalaga외 3명|arXiv (Cornell University)|2023. 12. 10.

Model Reduction and Neural Networks인용 수 7

한 줄 요약

이 논문은 PyTorch로 훈련된 딥러닝 모델을 CasADi 기반 수치 최적화 워크플로우에 원활하게 통합할 수 있도록 해주는 L4CasADi 프레임워크를 소개한다. 학습된 모델을 효율적인 C++ 코드로 컴파일하고 하드웨어 가속을 지원함으로써, L4CasADi는 복잡한 데이터 기반 역학을 포함하는 고성능, 미분 가능한 최적화를 가능하게 한다. 이는 난류 흐름 속에서 에너지 효율적인 물고기 궤적 계획과 신경 렌더링 필드(네트워크) 기반의 충돌 방지 운동 계획을 통해 입증되었다.

ABSTRACT

While real-world problems are often challenging to analyze analytically, deep learning excels in modeling complex processes from data. Existing optimization frameworks like CasADi facilitate seamless usage of solvers but face challenges when integrating learned process models into numerical optimizations. To address this gap, we present the Learning for CasADi (L4CasADi) framework, enabling the seamless integration of PyTorch-learned models with CasADi for efficient and potentially hardware-accelerated numerical optimization. The applicability of L4CasADi is demonstrated with two tutorial examples: First, we optimize a fish's trajectory in a turbulent river for energy efficiency where the turbulent flow is represented by a PyTorch model. Second, we demonstrate how an implicit Neural Radiance Field environment representation can be easily leveraged for optimal control with L4CasADi. L4CasADi, along with examples and documentation, is available under MIT license at https://github.com/Tim-Salzmann/l4casadi

연구 동기 및 목표

• 주요 수치 최적화 프레임워크인 CasADi에서 학습된 모델에 대한 네이티브 지원 부족을 해결한다.
• 다양분성 또는 성능을 희생시키지 않고도 딥러닝 모델을 최적화 워크플로우에 효율적이고 하드웨어 가속을 지원하는 방식으로 통합할 수 있도록 한다.
• 복잡한 실세계 문제를 위한 데이터 기반 모델링(PyTorch 기반)과 수치 최적화(CasADi 기반) 간 격차를 메운다.
• 학습된 역학과 제약 조건이 있는 비선형 프로그래밍을 조합한 엔드 투 엔드 최적화 워크플로우를 지원한다.
• 최적화된 모델을 임베디드 또는 고성능 환경에서 사용 가능한 독립형 C/C++ 응용 프로그램으로 배포할 수 있도록 한다.

제안 방법

• L4CasADi의 런타임 컴파일 파이프라인을 통해 입력으로 PyTorch 모델을 받아 최적화된 C++ 코드로 컴파일한다.
• 컴파일된 모델을 CasADi의 MX 그래프 내에서 다양한 기반 심볼릭 함수로 노출시켜 NLP에 원활하게 통합할 수 있도록 한다.
• 장치 인식 기반의 모델 컴파일을 통해 GPU 및 CPU 추론을 지원하여 최적화 중 하드웨어 가속을 실현한다.
• 외부 환경(예: MATLAB 또는 C++)에서 사용 가능한 독립형 공유 라이브러리(.so 파일 등)를 생성한다.
• CasADi의 비선형 프로그래밍(NLP) 솔버(IPOPT 등)를 사용하여 학습된 모델을 포함하는 최적화 문제를 해결한다.
• 난류 흐름 또는 NeRF 기반 환경 밀도와 같은 복잡한 환경 역학을 최적화 프레임워크 내에서 훈련된 신경망을 사용해 표현한다.

Figure 1: Minimum energy trajectory (magenta) to navigate from the start (green) to the goal (red) in the presence of a turbulent flow represented by its vorticity (A) and velocity field (B). The trajectory generator is implemented in CasADi, while the flow is modeled by a Neural Network in PyTorch

실험 결과

연구 질문

• RQ1 PyTorch에서 학습된 신경망 모델을 CasADi 기반 수치 최적화 프레임워크에 효율적이고 미분 가능한 방식으로 통합할 수 있는가?
• RQ2 데이터 기반 구성 요소를 포함하는 최적화 워크플로우에서 하드웨어 가속(GPU 등)을 얼마나 효과적으로 활용할 수 있는가?
• RQ3 암시적이고 고차원적인 환경 표현(예: NeRF)을 포함하는 복잡한 비凸 최적 제어 문제를 하이브리드 학습-최적화 파이프라인을 통해 해결할 수 있는가?
• RQ4 실세계 시나리오에서 학습된 모델을 사용한 최적화의 성능 및 정확도는 분석적 수식에 비해 어떻게 비교되는가?
• RQ5 최적화된 학습된 모델을 임베디드 또는 실시간 시스템을 위한 독립형 C/C++ 응용 프로그램에 구현하는 데 실용적인가?

주요 결과

• L4CasADi는 GPU 가속 및 C++ 코드 생성을 완전히 지원하는 엔드 투 엔드 미분 가능한 최적화를 성공적으로 구현하였다.
• PyTorch 기반의 유속 모델을 사용하여 난류 강에서 물고기 궤적을 최적화함으로써 에너지 효율적인 경로를 도출하였다.
• 물고기 궤적은 양성 및 음성 소용돌이를 효과적으로 활용하여 에너지 소비를 최소화하였으며, y방향 속도 명령은 거의 0에 가까웠다.
• L4CasADi를 통해 NeRF 기반 3차원 환경에 내장된 밀도를 암시적 장애물 함수로 간주함으로써 충돌 방지 궤적 계획을 실현하였다.
• NeRF 기반 충돌 제약 조건 하에서 9차 다항식 궤적 최적화를 CasADi의 IPOPT 솔버를 사용하여 달성하였으며, 학습된 모델이 다양한 제약 조건으로 통합되었다.
• 프레임워크는 최적화된 모델을 독립형 공유 라이브러리(libl4casadi_f.so 등)로 생성하여 MATLAB 및 C++ 환경에서 사용할 수 있도록 지원한다.