[논문 리뷰] A comparison study of supervised learning techniques for the approximation of high dimensional functions and feedback control

Mathias Oster, Luca Saluzzi외 1명|arXiv (Cornell University)|2024. 01. 01.

Neural Networks and Applications인용 수 1

한 줄 요약

이 논문은 최적 제어 문제에서 고차원 함수를 근사하기 위해 지도 학습 기법—신경망, 커널 방법, 텐서 트레인—을 비교한다. 상태에 의존하는 리카티 방정식을 사용해 훈련 데이터를 생성함으로써, 특히 TT 기반 방법(특히 TT 기울기 교차)이 가장 높은 정확도(오차 ~1.32×10⁻⁶)를 달성하는 것으로 나타났다. 반면 커널 방법과 신경망은 산발적인 데이터에 더 유연하게 대응할 수 있으나 약간 높은 오차를 보였다.

ABSTRACT

Approximation of high dimensional functions is in the focus of machine learning and data-based scientific computing. In many applications, empirical risk minimisation techniques over nonlinear model classes are employed. Neural networks, kernel methods and tensor decomposition techniques are among the most popular model classes. We provide a numerical study comparing the performance of these methods on various high-dimensional functions with focus on optimal control problems, where the collection of the dataset is based on the application of the State-Dependent Riccati Equation.

연구 동기 및 목표

• 최적 제어 문제에서 유래하는 고차원 가치 함수 근사를 위한 신경망, 커널 방법, 텐서 트레인 기법의 성능을 평가하고 비교하는 것.
• 정규성 및 가분성과 같은 내재된 함수 구조가 다양한 학습 방법의 근사 정확도에 미치는 영향을 조사하는 것.
• 데이터 가용성 및 샘플링 전략과 같은 실제 제약 조건 하에서 각 방법의 실용성과 내구성을 평가하는 것.
• 보조 모델과 선형 제곱형 제어기(LQR)를 조합한 Two-Boxes(TB) 피드백 제어 전략이 안정성 향상에 미치는 영향을 분석하는 것.
• 산발적이거나 비정규적으로 샘플링된 데이터에 대해 정확도, 일반화 능력, 적응 가능성의 균형을 가장 잘 유지하는 방법을 규명하는 것.

제안 방법

• 비선형 모델 클래스인 신경망, 커널 방법, 텐서 트레인(특히 TT 기울기 교차 및 블록 희박 텐서 트레인)에 대해 경험적 리스크 최소화 기법을 적용한다.
• 최적 제어 문제의 훈련 데이터는 상태에 의존하는 리카티 방정식(SDRE)을 통해 생성되며, 이는 가치 함수 근사에 정확도를 보장한다.
• Two-Boxes(TB) 피드백 제어 전략을 적용한다: 원점 근처의 상태에서는 LQR 제어를 사용하고, 그 외의 경우 보조 모델의 기울기가 제어를 이끈다.
• 근사 정확도 평가에 두 가지 지표를 사용한다: 다수의 초기 조건에 대해 테스트 오차(errtest)와 비용 오차(errcost).
• TT 기울기 교차는 기울기 정보와 교차 근사 기법을 활용해 적응적으로 샘플링 포인트를 선택함으로써 안정성과 조건 수를 향상시킨다.
• 커널 방법과 신경망은 구조화된 격자 기반 샘플링이 아닌 임의의 산발적 데이터에 대해 훈련되며, 이는 TT 방법이 활성 학습을 통해 구조화된 격자 기반 샘플링을 필요로 한다는 점과 대비된다.

실험 결과

연구 질문

• RQ1 신경망, 커널 방법, 텐서 트레인은 최적 제어 문제에서 유래한 고차원 가치 함수 근사에서 어떻게 비교되는가?
• RQ2 정규성 및 가분성과 같은 내재된 함수 성질이 각 방법의 근사 오차에 얼마나 영향을 미치는가?
• RQ3 보조 모델과 LQR를 조합한 Two-Boxes 피드백 제어 전략은 안정성과 성능 향상에 어떻게 기여하는가?
• RQ4 세 가지 학습 기법 간에 정확도와 데이터 유연성(예: 산발적 vs. 구조화된 데이터) 사이의 상충 관계는 어떻게 나타나는가?
• RQ5 다양한 지표(예: 평균 제곱 오차)는 비연속적이거나 局소적인 특징을 포착하는 데서 보조 모델의 진정한 성능을 어떻게 반영하는가?

주요 결과

• TT 기울기 교차가 모든 방법 중에서 가장 낮은 테스트 오차(1.32×10⁻⁶)를 기록하여 매끄럽고 구조화된 고차원 함수에 대해 뛰어난 정확도를 입증했다.
• 커널 방법이 두 번째로 낮은 테스트 오차(8.62×10⁻⁶)를 기록했으며, 산발적 데이터 처리에 대한 민첩성과 함께 정확도에서도 신경망을 초월했다.
• 신경망은 더 높은 테스트 오차(최대 8.37×10⁻⁵)를 보였지만, 푸리에 전개 항의 수를 늘릴수록 성능 향상을 보이며, 모델 아키텍처에 민감한 경향을 보였다.
• 모든 방법이 비용 오차(errcost)를 약 ~0.032–0.036의 좁은 범위 내에서 달성하여, 함수 근사의 차이에도 불구하고 제어 비용 최소화 성능은 유사하게 나타났다.
• TT 방법은 함수의 정규성과 저질서 텐서 구조를 효과적으로 활용할 수 있어 고차원 환경에서 다른 방법들에 비해 뚜렷한 정확도 우위를 보였다.
• 반면 커널 방법과 신경망은 TT 방법이 활성 격자 기반 샘플링을 요구함에 따라 실제 데이터에 적용하기에 제한을 받는 것과 달리, 산발적 데이터에 더 뛰어난 적응성을 보였다.