[论文解读] Robust Hybrid Learning With Expert Augmentation

Antoine Wehenkel, Jens Behrmann+4 more|arXiv (Cornell University)|Feb 8, 2022

Model Reduction and Neural Networks被引用 5

一句话总结

本文提出专家增强（expert augmentation），一种数据增强策略，通过利用专家模型在训练分布之外的有效性，提升混合学习模型的分布外（OOD）泛化能力。通过在参数配置偏移的条件下，使用专家模型的预测结果对混合模型进行微调，从而在不修改底层架构的前提下增强其鲁棒性，在动力系统和真实摆动系统数据上均显著提升了OOD性能。

ABSTRACT

Hybrid modelling reduces the misspecification of expert models by combining them with machine learning (ML) components learned from data. Similarly to many ML algorithms, hybrid model performance guarantees are limited to the training distribution. Leveraging the insight that the expert model is usually valid even outside the training domain, we overcome this limitation by introducing a hybrid data augmentation strategy termed extit{expert augmentation}. Based on a probabilistic formalization of hybrid modelling, we demonstrate that expert augmentation, which can be incorporated into existing hybrid systems, improves generalization. We empirically validate the expert augmentation on three controlled experiments modelling dynamical systems with ordinary and partial differential equations. Finally, we assess the potential real-world applicability of expert augmentation on a dataset of a real double pendulum.

研究动机与目标

• 为解决最先进混合学习模型在专家模型有效范围超出训练领域时仍存在分布外（OOD）泛化能力差的问题。
• 将混合学习形式化为一个概率推理问题，其中专家模型提供明确的归纳偏置。
• 提出专家增强——一种数据增强策略，通过在参数偏移配置下利用专家模型的预测结果扩展训练分布，从而提升鲁棒性。
• 通过实证验证，专家增强在合成与真实世界动力系统中的近似推理设置下可提升泛化能力。
• 证明专家增强可无缝集成至现有混合学习框架中，而无需修改架构。

提出的方法

• 将混合学习形式化为具有已知专家组件 $p(y_e|x, z_e)$ 和学习到的交互模型 $p(y|x, y_e, z_a)$ 的概率模型，从而实现合理的推理。
• 将专家增强定义为通过在原始训练分布之外更广泛的参数 $z_e$ 范围内采样专家模型，生成合成训练数据。
• 通过将原始训练数据与来自偏移 $z_e$ 配置的专家生成样本相结合，构建增强数据集 $\Omega^+$。
• 在增强数据集 $\Omega^+$ 上微调混合模型，使交互模型能够学习在多样化参数区域中的鲁棒表征。
• 使用相同的概率框架证明，专家增强通过降低分布偏移的脆弱性，改善了泛化能力。
• 将该方法应用于合成的ODE/PDE系统和真实双摆数据集，以验证其鲁棒性与实际应用价值。

实验结果

研究问题

• RQ1 即使专家模型在训练领域之外也定义良好，标准协议训练的混合学习模型能否在分布外测试配置下有效泛化？
• RQ2 如何系统性地仅通过专家模型的预测结果，将混合模型的有效域扩展至训练分布之外？
• RQ3 在模型必须对未见参数配置泛化的近似推理设置中，专家增强是否能提升泛化能力？
• RQ4 在何种实际与理论条件下，专家增强可实现鲁棒性提升而不损害分布内性能？
• RQ5 专家增强是否可应用于真实物理系统（如双摆）以实现可靠的分布外预测？

主要发现

• 专家增强显著提升了混合模型的OOD泛化能力，如在2D扩散-反应系统中，APHYNITY+在偏移测试分布上的表现优于APHYNITY。
• 在真实双摆数据集上，专家增强的混合模型可泛化至标准混合模型失效的未见初始条件和参数区域。
• 该方法在保持或略微增加训练误差的同时降低测试误差，表明泛化能力提升且过拟合减少。
• 即使增强样本并非完全真实，只要其比原始训练数据更接近真实数据流形，该方法依然有效。
• 该方法与现有混合学习框架兼容，无需架构修改，具有广泛适用性。
• 鲁棒性提升归因于交互模型中更好的表征学习，因其在参数偏移下接触到了多样化的专家预测。