[논문 리뷰] Robust Hybrid Learning With Expert Augmentation

Antoine Wehenkel, Jens Behrmann외 4명|arXiv (Cornell University)|2022. 02. 08.

Model Reduction and Neural Networks인용 수 5

한 줄 요약

이 논문은 하이브리드 학습 모델의 분포 외 일반화 성능을 향상시키기 위해 훈련 분포를 초월한 전문 모델의 유효성을 활용하는 전문가 증강(expert augmentation) 전략을 제안한다. 전문 모델의 예측을 다양한 파라미터 설정으로 이동한 상황에서 합성적으로 확장된 데이터를 기반으로 하이브리드 모델을 미세 조정함으로써, 기초 아키텍처를 변경하지 않고도 강건성을 향상시키는 방법이다. 이는 동역학 시스템과 실제 펜듈럼 데이터에서 분포 외 성능 향상이 뚜렷하게 나타남을 보여준다.

ABSTRACT

Hybrid modelling reduces the misspecification of expert models by combining them with machine learning (ML) components learned from data. Similarly to many ML algorithms, hybrid model performance guarantees are limited to the training distribution. Leveraging the insight that the expert model is usually valid even outside the training domain, we overcome this limitation by introducing a hybrid data augmentation strategy termed extit{expert augmentation}. Based on a probabilistic formalization of hybrid modelling, we demonstrate that expert augmentation, which can be incorporated into existing hybrid systems, improves generalization. We empirically validate the expert augmentation on three controlled experiments modelling dynamical systems with ordinary and partial differential equations. Finally, we assess the potential real-world applicability of expert augmentation on a dataset of a real double pendulum.

연구 동기 및 목표

• 최첨단 하이브리드 학습 모델의 분포 외 일반화 성능이 열악한데도 불구하고 전문 모델이 훈련 도메인을 초월해 유효함을 감안할 때 이를 해결하고자 한다.
• 전문 모델이 잘 정의된 인덕티브 바이어스를 제공하므로 하이브리드 학습을 확률적 추론 문제로 공식화하고자 한다.
• 전문가 증강을 제안한다—이를 통해 이동된 파라미터 설정 하에서 전문 모델의 예측을 활용해 훈련 분포를 확장하는 데이터 증강 전략을 통해 강건성을 향상시키고자 한다.
• 합성 및 실제 동역학 시스템에서의 암시적 추론 설정에서 전문가 증강이 일반화 성능을 향상시킴을 실증적으로 검증하고자 한다.
• 기존 하이브리드 학습 프레임워크에 아키텍처 변경 없이도 전문가 증강을 원활하게 통합할 수 있음을 보여주고자 한다.

제안 방법

• 전문 모델의 구성성분 $p(y_e|x, z_e)$와 학습된 상호작용 모델 $p(y|x, y_e, z_a)$를 포함하는 확률적 모델로 하이브리드 학습을 공식화함으로써 체계적인 추론이 가능하게 한다.
• 전문가 증강을 정의하여, 원래 훈련 분포보다 더 넓은 범위의 파라미터 $z_e$에서 전문 모델의 예측을 샘플링함으로써 합성 훈련 데이터를 생성한다.
• 원래 훈련 데이터와 이동된 $z_e$ 설정에서 전문 모델이 생성한 샘플을 조합하여 증강된 데이터셋 $\Omega^+$를 구성한다.
• 증강된 데이터셋 $\Omega^+$에서 하이브리드 모델을 미세 조정함으로써 상호작용 모델이 다양한 파라미터 영역에서 강건한 표현을 학습할 수 있도록 한다.
• 동일한 확률적 프레임워크를 사용하여 전문가 증강이 분포 이동에 대한 취약성을 줄임으로써 일반화 성능 향상을 이룬다는 것을 보여준다.
• 합성 ODE/PDE 시스템과 실제 더블 펜듈럼 데이터셋에 이 방법을 적용하여 강건성과 실제 적용 가능성의 유효성을 검증한다.

실험 결과

연구 질문

• RQ1 표준 프로토콜에 따라 훈련된 하이브리드 학습 모델이 전문 모델이 훈련 도메인을 초월해 유효한 상황에서도 분포 외 테스트 구성에 효과적으로 일반화할 수 있는가?
• RQ2 오직 전문 모델의 예측만을 사용하여 어떻게 체계적으로 하이브리드 모델의 유효 영역을 훈련 분포를 초월해 확장할 수 있는가?
• RQ3 암시적 추론 설정에서, 모델이 예상치 못한 파라미터 구성에 일반화해야 할 때 전문가 증강이 일반화 성능을 향상시키는가?
• RQ4 전문가 증강이 내분포 성능을 떨어뜨리지 않으면서 강건성을 향상시키는 실용적이고 이론적인 조건은 무엇인가?
• RQ5 전문가 증강은 더블 펜듈럼과 같은 실제 물리 시스템에 적용되어 분포 외 예측을 신뢰성 있게 도출할 수 있는가?

주요 결과

• 전문가 증강은 하이브리드 모델의 분포 외 일반화 성능을 크게 향상시킨다. 2D 확산-반응 시스템에서 APHYNITY+는 이동된 테스트 분포에서 APHYNITY를 능가하는 성능을 보였다.
• 실제 더블 펜듈럼 데이터셋에서 전문가 증강된 하이브리드 모델은 표준 하이브리드 모델이 실패하는 새로운 초기 조건과 파라미터 영역으로도 일반화된다.
• 모델은 훈련 오차는 유지하거나 略도 증가시키지만 테스트 오차는 감소시켜 일반화 성능 향상과 과적합 감소를 나타낸다.
• 증강된 샘플이 완전히 현실적이지 않더라도, 원래 훈련 데이터보다 진짜 데이터 다양성에 더 가까운 경우라면 전문가 증강이 효과가 있다.
• 기존 하이브리드 학습 프레임워크와 호환되며 아키텍처 변경 없이 적용 가능하므로 광범위하게 적용 가능하다.
• 강건성 향상 요인은 파라미터 이동에 따른 다양한 전문 모델 예측에 노출된 상호작용 모델의 표현 학습 향상에서 기인한다.