[논문 리뷰] Provably Correct Learning Algorithms in the Presence of Time-Varying Features Using a Variational Perspective

Joseph E. Gaudio, Travis E. Gibson외 2명|arXiv (Cornell University)|2019. 03. 11.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

이 논문은 시간에 따라 변화하는 특징을 가진 기계학습을 위한 증명 가능하게 올바른 고차원 학습 알고리즘을 연속시간 변분 프레임워크를 통해 제안한다. 적응 제어의 개념—예를 들어 고차원 튜너와 정규화—를 통합함으로써 시간에 따라 변화하는 회귀자에 대한 동적 시스템에 대해 안정성과 수렴 보장을 수립하며, 정적 특징 가정을 초월해 가속화 경사 방법을 확장한다.

ABSTRACT

Features in machine learning problems are often time-varying and may be related to outputs in an algebraic or dynamical manner. The dynamic nature of these machine learning problems renders current higher order accelerated gradient descent methods unstable or weakens their convergence guarantees. Inspired by methods employed in adaptive control, this paper proposes new algorithms for the case when time-varying features are present, and demonstrates provable performance guarantees. In particular, we develop a unified variational perspective within a continuous time algorithm. This variational perspective includes higher order learning concepts and normalization, both of which stem from adaptive control, and allows stability to be established for dynamical machine learning problems where time-varying features are present. These higher order algorithms are also examined for provably correct learning in adaptive control and identification. Simulations are provided to verify the theoretical results.

연구 동기 및 목표

• 특징이 시간에 따라 변화할 경우 기존의 가속화 경사 방법의 불안정성과 약화된 수렴 문제를 해결한다.
• 현재의 고차원 최적화 이론에서 부족한 시간에 따라 변화하는 특징을 가진 동적 기계학습 문제에 대해 증명 가능하게 안정된 학습을 확장한다.
• 적응 제어 원리—예를 들어 고차원 튜너와 정규화—를 연속시간 변분 프레임워크 내에 통합하여 기계학습에 적용한다.
• 파rametric 불확실성과 시간에 따라 변화하는 역학을 가진 상황에서 온라인 적응 제어 및 시스템 식별에 대해 안정적이고 수렴하는 학습을 보장한다.
• 실제 동적 시스템, 예를 들어 항공기 제어에 대해 제안된 알고리즘의 이론적 및 시뮬레이션 기반 검증을 수행한다.

제안 방법

• 고차원 동역학과 정규화를 포함하는 가속화 경사 방법을 일반화하는 연속시간 변분 시각을 수립한다.
• 시간에 따라 변화하는 특징과 동적 회귀자에 대한 학습 안정성을 확보하기 위해 적응 제어에서 영감을 얻은 '고차원 튜너'를 도입한다.
• 매개변수 갱신 법칙이 최적 해로의 점근적 안정성과 수렴을 보장하는 연속시간 동적 시스템을 유도한다.
• 변분 프레임워크를 정적 회귀와 동적 시스템 식별 양쪽에 적용하여 학습 역학을 라플라스 기반 안정성 분석에 통합한다.
• 연속시간 알고리즘을 증명 가능하게 수렴 속도를 유지하는 이산시간 구현 가능 형태로 변환한다.
• 라플라스 함수를 사용하여 시간에 따라 변화하는 특징 하에서 매개변수 추정 오차가 0으로 수렴함을 증명한다.

실험 결과

연구 질문

• RQ1 특징이 시간에 따라 변화할 경우 고차원 경사 방법을 어떻게 확장하여 안정성과 수렴을 보장할 수 있는가?
• RQ2 적응 제어 개념인 고차원 튜너를 어떻게 기계학습에 통합하여 동적 회귀자를 다룰 수 있는가?
• RQ3 어떤 변분 공식화가 시간에 따라 변화하는 특징을 가진 온라인 학습에 대해 증명 가능한 수렴을 가능하게 하는가?
• RQ4 제안된 방법은 시간에 따라 변화하는 입력을 가진 불확실한 동적 시스템의 적응 제어에서 영차 오차를 0으로 보장할 수 있는가?
• RQ5 특징 주파수의 변화가 실생활에서 학습 알고리즘의 수렴성과 안정성에 어떤 영향을 미치는가?

주요 결과

• 제안된 고차원 튜너는 특징이 시간에 따라 변화하더라도 매개변수 추정 오차가 점근적으로 0으로 수렴함을 보장한다.
• 변분 프레임워크는 연속시간에서 임의로 빠른 수렴 속도를 가능하게 하며, 이는 이산시간 구현에서도 이론적 보장을 유지한다.
• F-16 항공기 모델에 대한 시뮬레이션 결과, 시간에 따라 변화하는 회귀자 하에서 피치 레이트 명령 추종 시 알고리즘이 영차 오차를 달성한다.
• 특징의 주파수가 증가함에 따라 표준 Nesterov 유형 방법보다 안정성과 수렴성 면에서 뛰어난 성능을 보인다.
• 정현파 변동 주기 50초에서 1초까지 다양한 특징 경로에 대해 알고리즘이 강건성을 유지하며, 매개변수 궤적은 유한하게 유지된다.
• 정규화와 고차원 동역학의 통합은 시간에 따라 변화하는 회귀자 하에서 발산을 방지하고 매개변수 궤적이 유한함을 보장한다.