[論文レビュー] Learning for CasADi: Data-driven Models in Numerical Optimization

Tim Salzmann, Jon Arrizabalaga+3 more|arXiv (Cornell University)|Dec 10, 2023

Model Reduction and Neural Networks被引用数 7

ひとこと要約

この論文では、PyTorchで学習された深層学習モデルをCasADiベースの数値最適化ワークフローにシームレスに統合できるフレームワーク、L4CasADiを紹介する。学習済みモデルを効率的なC++コードにコンパイルし、ハードウェアアクセラレーションをサポートすることで、L4CasADiは複雑なデータ駆動型ダイナミクスを含む高性能で微分可能な最適化を可能にする。実例として、乱流中の魚のエネルギ効率の良い軌道計画と、Neural Radiance Fields（NeRF）を用いた衝突回避のための運動計画が提示されている。

ABSTRACT

While real-world problems are often challenging to analyze analytically, deep learning excels in modeling complex processes from data. Existing optimization frameworks like CasADi facilitate seamless usage of solvers but face challenges when integrating learned process models into numerical optimizations. To address this gap, we present the Learning for CasADi (L4CasADi) framework, enabling the seamless integration of PyTorch-learned models with CasADi for efficient and potentially hardware-accelerated numerical optimization. The applicability of L4CasADi is demonstrated with two tutorial examples: First, we optimize a fish's trajectory in a turbulent river for energy efficiency where the turbulent flow is represented by a PyTorch model. Second, we demonstrate how an implicit Neural Radiance Field environment representation can be easily leveraged for optimal control with L4CasADi. L4CasADi, along with examples and documentation, is available under MIT license at https://github.com/Tim-Salzmann/l4casadi

研究の動機と目的

• 先行する数値最適化フレームワークであるCasADiに、学習済みモデルのネイティブなサポートが欠如している問題に対処すること。
• 微分可能性やパフォーマンスを損なわず、効率的かつハードウェアアクセラレートされた深層学習モデルを最適化パイプラインに統合すること。
• データ駆動型モデリング（PyTorchを介して）と数値最適化（CasADiを介して）の間のギャップを埋め、複雑な現実世界の問題に適用可能にする。
• 学習済みダイナミクスと制約付き非線形プログラミング（NLP）を組み合わせたエンド・ツー・エンドの最適化ワークフローを支援すること。
• 最適化されたモデルを組み込み型またはハイパフォーマンス環境向けにスタンドアロンのC/C++アプリケーションにデプロイすることを可能にする。

提案手法

• L4CasADiのランタイムコンパイルパイプラインを介して、入力としてPyTorchモデルを受け取り、最適化されたC++コードにコンパイルする。
• コンパイルされたモデルをCasADiのMXグラフ内での微分可能な記号的関数として公開し、NLPへのシームレスな統合を可能にする。
• デバイスに適応したモデルコンパイルにより、GPUおよびCPU推論をサポートし、最適化中にハードウェアアクセラレーションを活用する。
• MATLABやC++などの外部環境で使用可能なスタンドアロンの共有ライブラリ（例：.soファイル）を生成する。
• CasADiの非線形プログラミング（NLP）ソルバ（例：IPOPT）を用いて、学習済みモデルを含む最適化問題を解く。
• 乱流やNeRFベースのシーン密度といった複雑な環境ダイナミクスを、最適化フレームワーク内での訓練済みニューラルネットワークを用いて表現する。

Figure 1: Minimum energy trajectory (magenta) to navigate from the start (green) to the goal (red) in the presence of a turbulent flow represented by its vorticity (A) and velocity field (B). The trajectory generator is implemented in CasADi, while the flow is modeled by a Neural Network in PyTorch

実験結果

リサーチクエスチョン

• RQ1 PyTorchから得た学習済みニューラルネットワークモデルを、CasADiベースの数値最適化フレームワークにどのように効率的かつ微分可能に統合できるか？
• RQ2 データ駆動型コンponentsを含む最適化ワークフローにおいて、GPUなどのハードウェアアクセラレーションをどの程度活用できるか？
• RQ3 NeRFなどの暗黙的で高次元の環境表現を含む、非凸的な最適制御問題を、ハイブリッドな学習-最適化パイプラインで解くことは可能か？
• RQ4 現実世界のシナリオにおいて、学習済みモデルを用いた最適化のパフォーマンスと正確さは、解析的定式化と比べてどの程度か？
• RQ5 最適化済みの学習済みモデルを、組み込み型またはリアルタイムシステム向けにスタンドアロンのC/C++アプリケーションにデプロイする実用的妥当性は何か？

主な発見

• L4CasADiは、GPUアクセラレーションとC++コード生成を完全にサポートするエンド・ツー・エンドの微分可能な最適化を実現し、PyTorchモデルを含む最適化を可能にした。
• フレームワークは、PyTorchベースの流れモデルを用いて乱流の川における魚の軌道を最適化でき、渦を活用したエネルギ効率の良い経路を実現した。
• 魚の軌道は、正の渦と負の渦を効果的に利用してエネルギー消費を最小化しており、y方向の速度命令はほぼゼロのままであった。
• L4CasADiは、NeRF密度を暗黙の障害物関数として扱うことで、NeRF埋め込み3次元環境内での衝突回避のための軌道計画を可能にした。
• NeRFベースの衝突制約下での9次多項式軌道の最適化は、CasADiのIPOPTソルバを用いて達成され、学習済みモデルが微分可能な制約として統合された。
• フレームワークは、最適化済みモデルをスタンドアロンの共有ライブラリ（例：libl4casadi_f.so）として出力でき、MATLABおよびC++環境での使用を可能にした。