[論文レビュー] A comparison study of supervised learning techniques for the approximation of high dimensional functions and feedback control

Mathias Oster, Luca Saluzzi+1 more|arXiv (Cornell University)|Jan 1, 2024

Neural Networks and Applications被引用数 1

ひとこと要約

この論文は、最適制御問題における高次元関数の近似に、教師あり学習手法—ニューラルネットワーク、カーネル法、テンソルトレイン—を比較する。状態依存リッカチ方程式（SDRE）を用いて訓練データを生成し、テンソルトレイン（特にTT Gradient Cross）が最も高い精度（誤差 ~1.32×10⁻⁶）を達成することを示している。一方、カーネル法とニューラルネットワークは散在データに対してより高い柔軟性を示すが、わずかに高い誤差を示す。

ABSTRACT

Approximation of high dimensional functions is in the focus of machine learning and data-based scientific computing. In many applications, empirical risk minimisation techniques over nonlinear model classes are employed. Neural networks, kernel methods and tensor decomposition techniques are among the most popular model classes. We provide a numerical study comparing the performance of these methods on various high-dimensional functions with focus on optimal control problems, where the collection of the dataset is based on the application of the State-Dependent Riccati Equation.

研究の動機と目的

• 最適制御に生じる高次元価値関数の近似において、ニューラルネットワーク、カーネル法、テンソルトレイン手法の性能を評価・比較すること。
• 滑らかさや可分性といった関数の内在的構造が、異なる学習手法における近似精度に与える影響を調査すること。
• データの入手可能性やサンプリング戦略といった現実世界の制約下での各手法の実用的妥当性とロバストネスを評価すること。
• 補間モデルと線形二次調節器（LQR）を組み合わせたTwo-Boxes（TB）フィードバック制御戦略が安定性に与える影響を検討すること。
• 高次元設定下で、精度、一般化性能、散在または不規則にサンプリングされたデータへの適応性のバランスを最も良く果たす手法を特定すること。

提案手法

• 非線形モデルクラス（ニューラルネットワーク、カーネル法、テンソルトレイン：特にTT Gradient Crossとブロックスパーステンソルトレイン）における経験的リスク最小化を採用する。
• 最適制御問題における訓練データは、状態依存リッカチ方程式（SDRE）を用いて生成され、正確な価値関数近似を可能にする。
• Two-Boxes（TB）フィードバック制御戦略を適用する：原点付近の状態ではLQR制御を、それ以外では補間モデルの勾配が制御を駆動する。
• 近似精度は、複数の初期状態におけるテスト誤差（errtest）とコスト誤差（errcost）の2つの指標を用いて評価する。
• TT Gradient Crossは勾配情報とクロス近似を用い、適応的にサンプリング点を選択することで、安定性と条件数の改善を図る。
• カーネル法とニューラルネットワークは、活性学習による構造的グリッドベースのサンプリングに依存するTT手法とは異なり、任意の散在データに対して訓練可能である。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワーク、カーネル法、テンソルトレインは、最適制御問題に由来する高次元価値関数をどの程度正確に近似できるか？
• RQ2 滑らかさや可分性といった関数の内在的性質が、各手法の近似誤差にどの程度影響を及えるか？
• RQ3 補間モデルとLQRを組み合わせたTwo-Boxesフィードバック制御戦略は、安定性と性能にどのように寄与するか？
• RQ4 3つの学習手法間で、精度とデータの柔軟性（散在データ対構造的データ）のトレードオフはどのように変化するか？
• RQ5 平均二乗誤差などの異なる指標は、非滑らかまたは局所的特徴を捉える補間モデルの真の性能をどの程度反映しているか？

主な発見

• TT Gradient Crossは、全手法の中で最小のテスト誤差（1.32×10⁻⁶）を達成し、滑らかで構造的な高次元関数に対して優れた精度を示した。
• カーネル法は2番目の低いテスト誤差（8.62×10⁻⁶）を記録し、精度ではニューラルネットワークを上回りながらも、散在データに対する柔軟性を維持した。
• ニューラルネットワークは高いテスト誤差（最大8.37×10⁻⁵）を示したが、フーリエ展開項を増やすことで性能が向上したため、モデルアーキテクチャに敏感であることが示された。
• すべての手法がコスト誤差（errcost）をほぼ同一範囲（~0.032–0.036）に保ち、関数近似の差にもかかわらず制御コスト最小化の性能は同等であった。
• TT手法は、関数の滑らかさや低ランクテンソル構造を活用できるため、特に高次元設定下で他を大きく上回る精度を達成した。
• カーネル法とニューラルネットワークは、TT手法が活性学習による構造的グリッドベースのサンプリングに依存するのに対し、散在データへの適応性に優れており、実世界データへの適用が可能である。