[논문 리뷰] Learning Equations for Extrapolation and Control

Subham Sekhar Sahoo, Christoph H. Lampert외 1명|arXiv (Cornell University)|2018. 06. 19.

Model Reduction and Neural Networks참고 문헌 10인용 수 45

한 줄 요약

이 논문은 분할 유닛을 포함하도록 Equation Learner를 확장하여 데이터로부터 간결하고 외삽 가능한 방정식을 발견하고 이를 매우 적은 시도에서 forward dynamics 및 로봇 제어에 적용합니다.

ABSTRACT

We present an approach to identify concise equations from data using a shallow neural network approach. In contrast to ordinary black-box regression, this approach allows understanding functional relations and generalizing them from observed data to unseen parts of the parameter space. We show how to extend the class of learnable equations for a recently proposed equation learning network to include divisions, and we improve the learning and model selection strategy to be useful for challenging real-world data. For systems governed by analytical expressions, our method can in many cases identify the true underlying equation and extrapolate to unseen domains. We demonstrate its effectiveness by experiments on a cart-pendulum system, where only 2 random rollouts are required to learn the forward dynamics and successfully achieve the swing-up task.

연구 동기 및 목표

• 물리 시스템에서 실제 기저 관계를 포착하는 해석가능한 모델의 필요성을 동기 부여합니다.
• Equation Learner를 확장하여 분할을 다루고 학습 안정성 및 모델 선택을 개선합니다.
• 외삽 능력과 최소 데이터로 실제 세계 제어 태스크에의 적용 가능성을 시연합니다.

제안 방법

• EQL 아키텍처의 마지막 층에 나눗셈 유닛을 도입하여 EQL÷를 형성합니다.
• 임계값 θ를 가진 정규화된 나눗셈 활성화 hθ(a,b)를 사용하여 극점을 피하고 그래디언트를 안내합니다.
• 학습 중 음수 또는 금지된 분모를 억제하기 위한 페널티 항 Pθ를 추가합니다.
• θ(t)이 학습 과정에서 감소하는 커리큘럼을 도입하여 정확한 나눗셈을 점진적으로 학습하게 합니다.
• 희소성을 촉진한 뒤 간결한 모델을 고정하는 세 단계 정규화 스케줄(먼저 L1, 그다음 거의 L0에 해당)을 제안합니다.
• 보간 검증 오차와 정규화된 희소성(가능한 경우 외삽 검증)을 함께 최적화하는 모델 선택 기준(Vint-S 및 Vint&ex 변형)을 제안합니다.

실험 결과

연구 질문

• RQ1 분할 유닛을 갖춘 확장된 방정식 학습 네트워크가 데이터에서 근본적 analytical expressions을 정확히 식별할 수 있는가?
• RQ2 나눗셈 기능을 갖춘 모델이 표준 신경망 및 기호 회귀기보다 보이지 않는 영역으로의 외삽을 더 신뢰성 있게 수행하는가?
• RQ3 특히 외삽 데이터가 있을 때 가장 간단하고 올바른 방정식을 식별하기 위한 모델 선택은 어떻게 수행되어야 하는가?
• RQ4 EQL÷로 학습된 순전파 역학이 아주 적은 탐색 시도로 로봇 시스템의 효과적인 제어를 가능하게 할 수 있는가?

주요 결과

• EQL÷는 보이지 않는 영역으로의 외삽과 여러 실험에서 기본 EQL이 할 수 없었던 진짜 근본 방정식을 식별한다.
• 분할이 풍부한 수식의 경우, EQL÷는 외삽 품질에서 MLP, SVR, Eureqa를 능가하며 때로 보간에서도 우수하다.
• 외삽 데이터와 함께 Vint&ex 모델 선택 변형은 많은 후보 중에서 올바른 식을 신뢰성 있게 식별한다; 40 extrapolation points가 종종 충분했다.
• 네 개 입력까지의 복잡한 수식을 학습할 때, EQL÷와 Eureqa는 일관되게 좋은 외삽 성능을 달성하는 반면 원래의 EQL은 분할이 없으면 어려워한다.
• 이 방법은 순전파 역학 학습 및 아주 적은 무작위 롤아웃으로 Swing-up 제어 태스크를 해결하는 것을 시연한다.
• 이 방법은 구현되어 공유 가능하며 재현 및 추가 연구를 가능하게 한다.