[논문 리뷰] Port-Hamiltonian Approach to Neural Network Training

Stefano Massaroli, Michael Poli외 5명|arXiv (Cornell University)|2019. 09. 06.

Control and Stability of Dynamical Systems참고 문헌 29인용 수 4

한 줄 요약

이 논문은 손실 함수의 최소값으로 수렴하는 내재된 수동성 덕분에 포트-해밀토니안(Port-Hamiltonian, PH) 동역학 시스템을 통해 네트워크 파라미터가 연속적으로 변화하도록 모델링함으로써 신경망을 훈련시키는 새로운 연속시간 프레임워크를 제안한다. 기존의 이산 최적화와는 달리, 이 방법은 파라미터를 상미분방정식(ODE)의 해로 간주하여 더 부드럽고 이론적으로 보장된 수렴성과 더 나은 안장점 탈출 행동을 가능하게 한다.

ABSTRACT

Neural networks are discrete entities: subdivided into discrete layers and parametrized by weights which are iteratively optimized via difference equations. Recent work proposes networks with layer outputs which are no longer quantized but are solutions of an ordinary differential equation (ODE); however, these networks are still optimized via discrete methods (e.g. gradient descent). In this paper, we explore a different direction: namely, we propose a novel framework for learning in which the parameters themselves are solutions of ODEs. By viewing the optimization process as the evolution of a port-Hamiltonian system, we can ensure convergence to a minimum of the objective function. Numerical experiments have been performed to show the validity and effectiveness of the proposed methods.

연구 동기 및 목표

• 비볼록 딥 러닝에서의 이산 최적화의 한계를 해결하기 위해 연속적이며 물리학적으로 영감을 얻은 훈련 프레임워크를 제안한다.
• 포트-해밀토니안 시스템의 수동성 성질을 활용하여 손실 함수의 최소값으로 수렴함을 보장한다.
• 고차원 비볼록 최적화 경관에서의 안장점 탈출 및 수렴 행동을 향상시킨다.
• SGD나 Adam과 같은 표준 이산 최적화 방법에 대한 이론적으로 탄탄한 연속적 대안을 제공한다.
• 물리적 시스템 모델링이 신경망 훈련 역학과 성능 향상에 어떻게 기여할 수 있는지 탐색한다.

제안 방법

• 손실 함수를 에너지 함수로 사용하여 네트워크 파라미터를 자율 포트-해밀토니안 시스템의 상태로 모델링한다.
• 감쇠 행렬 B를 통해 소산을 포함한 해밀토니안 구조를 정의함으로써 에너지 감쇠를 보장한다.
• 파라미터 역학을 ODE로 구성한다: dϑ/dt = J(ϑ)∂H/∂ϑ − B(ϑ)∂H/∂ϑ, 여기서 H는 손실 함수이다.
• PH 프레임워크와의 이론적 일致성을 확보하기 위해 부드러운 형태를 유지하기 위해 소프트플러스 활성화 함수(γ=10)를 사용한다.
• 100초 동안 PH ODE 시스템을 수치적 적분하여 훈련하며, 수집된 궤적 데이터를 사용한 배치 훈련을 수행한다.
• 벡터장 재구성 및 분류 작업에서 방법을 검증하여 학습된 역학을 기준값과 비교한다.

실험 결과

연구 질문

• RQ1 비볼록 신경망 최적화 문제에서 포트-해밀토니안 역학을 사용하여 최소값으로 수렴할 수 있는가?
• RQ2 수렴성과 안장점 탈출 측면에서 ODE 기반 연속적 파라미터 진화는 이산 경사하강법에 비해 어떻게 다른가?
• RQ3 PH 역학을 통해 훈련된 신경망은 덩핑 오실레이터와 같은 복잡한 동역학 시스템을 정확히 재구성할 수 있는가?
• RQ4 부드러운 활성화 함수는 PH 기반 훈련 프레임워크의 이론적 타당성에 어떤 영향을 미치는가?
• RQ5 PH 프레임워크는 비트리비얼 크기의 신경망으로 확장 가능하며 실용적 학습 과제에서 성능을 유지하는가?

주요 결과

• PH 기반 훈련 방법은 훈련 30초 이내에 손실 함수의 최소값으로 수렴하였으며, 대부분의 파라미터가 20초 경과 시점까지 안정화되었다.
• 파라미터 속도의 일시적 리플(ripples) 기간 동안 손실 감쇠가 가속되었으며, 이는 시스템이 안장점을 통과할 때 발생했다.
• 신경망은 덩핑 오실레이터의 진짜 벡터장을 성공적으로 재구성하였으며, 상태공간의 훈련되지 않은 영역에서 최고의 재구성 오차를 보였다.
• 두 개의 너비 16인 은닉층을 가진 354개 파라미터의 네트워크에 대해서도 확장 가능성을 입증하여, 비트리비얼 아키텍처에의 적용 가능성을 보였다.
• 이론적으로 보장된 수동성 덕분에 이산 방법에 비해 더 부드럽고 연속적인 파라미터 진화를 가능하게 하였다.