[논문 리뷰] Gradient Descent Learns Linear Dynamical Systems

Moritz Hardt, Tengyu Ma외 1명|arXiv (Cornell University)|2018. 01. 01.

Machine Learning and Algorithms인용 수 115

한 줄 요약

이 논문은 노이즈 있는 관측치로부터 알려지지 않은 선형 시간 불변 동적 시스템을 식별하기 위한 최대우도 목표 함수의 전역 최적해로 스위치 그래디언트 하강법(SGD)이 효율적으로 수렴함을 보여준다. 목표 함수의 비볼록성에도 불구하고, 저자들은 자연스러운 가정 하에 다항 시간 및 샘플 복잡도를 확립하며, 이 문제에 대해 이러한 보장을 처음으로 제공한다.

ABSTRACT

We prove that stochastic gradient descent efficiently converges to the global optimizer of the maximum likelihood objective of an unknown linear time-invariant dynamical system from a sequence of noisy observations generated by the system. Even though the objective function is non-convex, we provide polynomial running time and sample complexity bounds under strong but natural assumptions. Linear systems identification has been studied for many decades, yet, to the best of our knowledge, these are the first polynomial guarantees for the problem we consider.

연구 동기 및 목표

• 노이즈 있는 관측치로부터 선형 시간 불변 동적 시스템을 식별하는 데 있어 스위치 그래디언트 하강법의 다항 시간 수렴 보장을 확립하기 위해.
• 비볼록성 문제를 오랜 기간 동안 해결하지 못한 시스템 식별 문제를, 강력하지만 자연스러운 가정 하에 전역 수렴을 증명함으로써 해결하기 위해.
• 선형 시스템 식별에서 최대우도 추정에 대해 다항 시간 실행 시간 및 샘플 복잡도 경계를 처음으로 제공하기 위해.
• 시스템 식별 분야에서 실용적인 최적화 히우리즘과 이론적 보장 간 격차를 메우기 위해.

제안 방법

• 노이즈 있는 관측치가 있는 선형 동적 시스템의 최대우도 목표 함수에 대해 스위치 그래디언트 하강법을 적용한다.
• 이 방법은 시스템이 선형이며 시간 불변이며, 관측치가 진짜 상태 경로의 노이즈 버전에서 생성된다는 가정 하에 작동한다.
• 식별 가능성과 최적화 경계의 안정성을 보장하기 위해 관측 가능성과 제어 가능성 등의 강력한 가정을 활용한다.
• 집중 부등식과 시스템 행렬의 스펙트럼 성질을 이용하여 실행 시간과 샘플 복잡도에 대한 다항 경계를 유도한다.
• 최대우도 함수의 비볼록성에도 불구하고 최적화 경로가 전역 최소화자로 수렴함을 보여준다.

실험 결과

연구 질문

• RQ1 스위치 그래디언트 하강법은 선형 동적 시스템 식별에서 최대우도 추정에 대해 전역 수렴을 달성할 수 있는가?
• RQ2 이 비볼록 설정에서 SGD의 샘플 및 시간 복잡도 경계는 무엇인가?
• RQ3 최대우도 함수가 다항 시간 수렴을 전역 최적해로 보장하기 위해 어떤 가정이 필요한가?
• RQ4 비볼록 목표 함수를 가진 시스템 식별에서 SGD에 대해 이론적 보장을 제공할 수 있는가?

주요 결과

• 스위치 그래디언트 하강법은 선형 시간 불변 시스템의 최대우도 목표 함수의 전역 최적해로 수렴한다.
• 관측 가능성과 제어 가능성과 같은 자연스러운 가정 하에 다항 시간 및 샘플 복잡도로 수렴이 보장된다.
• 이 연구는 문헌에서 이 문제에 대해 다항 실행 시간 및 샘플 복잡도 경계를 처음으로 확립한 작업이다.
• 최대우도 목표 함수의 비볼록성에도 불구하고 결과가 성립한다.