[論文レビュー] Robust Hybrid Learning With Expert Augmentation

Antoine Wehenkel, Jens Behrmann+4 more|arXiv (Cornell University)|Feb 8, 2022

Model Reduction and Neural Networks被引用数 5

ひとこと要約

本稿では、訓練分布を超えた有効性を持つエキスパートモデルの予測を活用することで、ハイブリッド学習モデルの分布外（OOD）一般化性能を向上させるデータ拡張戦略「エキスパート拡張」を提案する。パラメータのシフトした設定におけるエキスパートモデルの予測を用いて合成的に拡張されたデータでハイブリッドモデルをファインチューニングすることで、基礎となるアーキテクチャを変更せずに耐性を高め、動的システムおよび実世界の振り子データにおいて顕著なOOD性能向上を示した。

ABSTRACT

Hybrid modelling reduces the misspecification of expert models by combining them with machine learning (ML) components learned from data. Similarly to many ML algorithms, hybrid model performance guarantees are limited to the training distribution. Leveraging the insight that the expert model is usually valid even outside the training domain, we overcome this limitation by introducing a hybrid data augmentation strategy termed extit{expert augmentation}. Based on a probabilistic formalization of hybrid modelling, we demonstrate that expert augmentation, which can be incorporated into existing hybrid systems, improves generalization. We empirically validate the expert augmentation on three controlled experiments modelling dynamical systems with ordinary and partial differential equations. Finally, we assess the potential real-world applicability of expert augmentation on a dataset of a real double pendulum.

研究の動機と目的

• 最先端のハイブリッド学習モデルの分布外（OOD）一般化性能が劣っている問題に取り組むが、訓練ドメインを超えて有効であるエキスパートモデルが存在する。
• エキスパートモデルが明確なインダクティブバイアスを提供するように、ハイブリッド学習を確率的推論問題として形式化する。
• エキスパート拡張を提案する——これは、パラメータがシフトした設定におけるエキスパートモデルの予測を用いて訓練分布を拡張するデータ拡張戦略であり、耐性を向上させる。
• 合成的および実世界の動的システムにおけるアンモラライズド推論設定において、エキスパート拡張が一般化を向上させることを実証的に検証する。
• エキスパート拡張が既存のハイブリッド学習フレームワークにアーキテクチャ変更なしにスムーズに統合可能であることを示す。

提案手法

• エキスパートモデルの既知の成分 $p(y_e|x, z_e)$ と学習された相互作用モデル $p(y|x, y_e, z_a)$ を有する確率的モデルとしてハイブリッド学習を形式化し、整合的な推論を可能にする。
• エキスパート拡張を、元の訓練分布よりも広い範囲のパラメータ $z_e$ におけるエキスパートモデルからのサンプリングによって合成訓練データを生成する方法として定義する。
• 元の訓練データと、シフトした $z_e$ の設定からのエキスパート生成サンプルを組み合わせて、拡張データセット $\Omega^+$ を構築する。
• 拡張データセット $\Omega^+$ でハイブリッドモデルをファインチューニングし、相互作用モデルが多様なパラメータ領域において頑健な表現を学習できるようにする。
• 同じ確率的フレームワークを用いて、エキスパート拡張が分布シフトの脆弱性を低減することで一般化性能が向上することを示す。
• 本手法を合成的ODE/PDEシステムおよび実際のダブル振り子データセットに適用し、耐性と実世界への適用可能性を検証する。

実験結果

リサーチクエスチョン

• RQ1 標準的手法で訓練されたハイブリッド学習モデルは、エキスパートモデルが訓練ドメインを超えて有効である場合でも、分布外のテスト設定に対して効果的に一般化できるか？
• RQ2 エキスパートモデルの予測のみを用いて、ハイブリッドモデルの有効領域を体系的に訓練分布を超えて拡張する方法は何か？
• RQ3 アンモラライズド推論設定において、エキスパート拡張は未観測のパラメータ設定に一般化を向上させるか？
• RQ4 エキスパート拡張が、インハウスドメイン性能を劣化させることなく、頑健性を向上させる実用的および理論的条件は何か？
• RQ5 エキスパート拡張は、ダブル振り子のような実世界の物理系に適用可能で、信頼性のあるOOD予測を達成できるか？

主な発見

• エキスパート拡張は、2次元の拡散反応系においてAPHYNITY+がAPHYNITYを上回る性能を示すなど、ハイブリッドモデルのOOD一般化性能を顕著に向上させる。
• 実際のダブル振り子データセットでは、エキスパート拡張を施したハイブリッドモデルが、標準的なハイブリッドモデルが失敗する未観測の初期条件およびパラメータ領域に対しても一般化する。
• 本手法は訓練誤差を維持するかわずかに増加させる一方で、テスト誤差を低減しており、一般化性能の向上と過学習の低減を示している。
• エキスパート拡張は、拡張されたサンプルが完全に現実的でなくても、元の訓練データよりも真のデータ多様体に近い限り、有効である。
• 本手法は既存のハイブリッド学習フレームワークと互換性があり、アーキテクチャの変更なしに適用可能であり、広く応用可能である。
• 耐性の向上は、パラメータのシフトに伴う多様なエキスパート予測にさらされることで、相互作用モデルにおける表現学習の質の向上に起因する。