[논문 리뷰] The Theory of Functional Connections: A journey from theory to application

Hunter Johnston|arXiv (Cornell University)|2021. 01. 01.

Spacecraft Dynamics and Control참고 문헌 104인용 수 8

한 줄 요약

이 박사학위 논문은 이론적 기반을 제공하는 함수 연결 이론(TFC)을 제시한다. TFC는 사용자가 정의한 선형 제약 조건을 기능적 표현에 분석적으로 통합하는 수학적 프레임워크로서, 제약 조건이 있는 최적화 문제를 제약 조건이 없는 문제로 변환한다. TFC는 제약 조건이 포함된 표현을 활용하여 미분방정식과 최적 제어 문제에 대해 더 빠르고 정확하며 강건한 수치적 해법을 가능하게 하며, 궤도 전파, 주기성 궤도, 실시간 최적 착륙 시나리오를 포함한 다양한 문제에 적용된다.

ABSTRACT

The Theory of Functional Connections (TFC) is a general methodology for functional interpolation that can embed a set of user-specified linear constraints. The functionals derived from this method, called \emph{constrained expressions}, analytically satisfy the imposed constraints and can be leveraged to transform constrained optimization problems to unconstrained ones. By simplifying the optimization problem, this technique has been shown to produce a numerical scheme that is faster, more accurate, and robust to poor initialization. The content of this dissertation details the complete development of the Theory of Functional Connections. First, the seminal paper on the Theory of Functional Connections is discussed and motivates the discovery of a more general formulation of the constrained expressions. Leveraging this formulation, a rigorous structure of the constrained expression is produced with associated mathematical definitions, claims, and proofs. Furthermore, the second part of this dissertation explains how this technique can be used to solve ordinary differential equations providing a wide variety of examples compared to the state-of-the-art. The final part of this work focuses on unitizing the techniques and algorithms produced in the prior sections to explore the feasibility of using the Theory of Functional Connections to solve real-time optimal control problems, namely optimal landing problems.

연구 동기 및 목표

• 함수 간의 보간에 내재된 제약 조건을 갖는 일반적인 방법으로서 함수 연결 이론(TFC)에 대한 엄밀한 수학적 기초를 구축하는 것.
• TFC를 이용하여 상미분방정식(ODE), 특히 경계값 문제, 초기값 문제, 고차 시스템을 해결하는 데의 적용을 보여주는 것.
• 특히 연료 최적화된 우주선 착륙 궤도에 대해 엄격한 시간 및 정확도 제약 조건을 갖는 실시간 최적 제어 문제에 TFC를 효과적으로 적용할 수 있는지 평가하는 것.
• 삼체 문제에서의 주기성 궤도 계산 및 복사 에너지 전달 방정식과 같은 복잡한 문제에 TFC를 확장하는 것.
• 물리 기반 신경망과 초단순 학습 기계와 같은 새로운 기법들과 TFC를 통합하여 매개변수 문제 및 역문제를 해결하는 것.

제안 방법

• 선형 제약 조건을 분석적으로 만족시키기 위해 투영-스위칭 메커니즘과 스위칭 함수를 사용하여 제약 조건이 포함된 표현을 수립한다.
• 제약 조건을 만족시키는 데 기여하는 나머지 표현은 고정되어 있으나, 자유 함수 g(x)는 제약 조건이 없으며 최적화가 가능하다.
• 두 지점 경계값 문제(TPBVP)와 초기값 문제를 제약 조건이 없는 최적화 문제로 변환하기 위해 이 방법을 적용한다.
• 비선형 최소 제곱법 및 콜로케이션 방법과 같은 수치적 해법을 사용하여 자유 함수에 대해 손실 함수를 최소화한다.
• 기저 함수 변환과 지지 행렬을 활용하여 다변수 및 비직사각형 영역으로 TFC를 확장한다.
• 자기조직화 학습 기반의 초단순 이론의 함수 연결(X-TFC)을 통해 TFC를 신경망과 통합하며, ELM을 자유 함수로 사용하여 매개변수화된 ODE를 해결한다.

실험 결과

연구 질문

• RQ1 어떻게 일반적인 프레임워크를 개발하여 임의의 선형 제약 조건을 기능적 표현에 분석적으로 통합할 수 있는가?
• RQ2 TFC에서 제약 조건이 포함된 표현의 수학적 구조와 증명 프레임워크는 무엇이며, 특히 다변수 및 고차 문제에 대해 어떻게 구성되는가?
• RQ3 TFC는 기존 방법과 비교하여 상미분방정식을 해결할 때 정확도, 수렴성, 초기화에 대한 강건성 측면에서 어떻게 성능을 발휘하는가?
• RQ4 TFC는 우주선 착륙과 같이 엄격한 시간 및 정확도 제약 조건이 존재하는 실시간 최적 제어 문제에 효과적으로 적용될 수 있는가?
• RQ5 물리 기반 학습 프레임워크를 활용할 때 TFC는 어림서기의 천체역학, 복사 에너지 전달, 역문제 등 복잡한 문제를 얼마나 넓게 확장하여 해결할 수 있는가?

주요 결과

• TFC는 제약 조건을 분석적으로 통합함으로써 제약 조건이 있는 최적화 문제를 제약 조건이 없는 문제로 변환하여, 전통적인 방법에 비해 더 빠르고 강건한 수치적 해법을 가능하게 한다.
• TFC는 편향된 람버트 문제와 궤도 전파를 포함한 두 지점 경계값 문제에서 높은 정확도를 달성하였으며, ode113 및 F & G 방법과 같은 표준 해법과 비교해도 성능이 유사하거나 뛰어나다.
• TFC는 원형 제한 삼체 문제에서 리아푸노프 궤도 및 할로 궤도와 같은 주기성 궤도를 분석적으로 계산하여, 미분 보정 방법과 유사한 정확도와 속도를 확보하였지만, 더 단순한 구현을 가능하게 한다.
• TFC를 복사 에너지 전달 문제, 예를 들어 찬드라세카르 문제에 적용한 결과 높은 정확도를 확보하였으며, 대기 과학 및 원격 감지 분야에 적합한 특성을 보였다.
• TFC와 초단순 학습 기계를 융합한 X-TFC는 매개변수화된 ODE 및 역문제, 예를 들어 SIR, SEIR, SEIRS 전염병 모델의 매개변수 발견 문제를 신속하고 정확하게 해결할 수 있게 하였다.
• TFC 기반의 최적 착륙 해법은 실시간 구현 가능성과 함께 검증되었으며, 제약 조건이 포함된 표현 덕분에 나쁜 초기 추정값 조건에서도 빠른 수렴을 보였으며, 차세대 자동 항법 시스템 잠재력이 높다는 점을 시사한다.