[논문 리뷰] Structured low-rank matrix completion for forecasting in time series analysis

Jonathan Gillard, Konstantin Usevich|arXiv (Cornell University)|2018. 02. 22.

Statistical and numerical algorithms참고 문헌 33인용 수 28

한 줄 요약

이 논문은 헨켈 행렬과 노름 노름 유사도를 사용하여 시계열 예측을 위한 구조적 저질 행렬 완성 방법을 제안한다. 가중치가 부여된 노름 노름 최적화—특히 지수 가중치—를 도입하여 증가하는 지수적 또는 주기적 성분을 가진 시계열의 예측 정확도를 향상시킨다. 특히 낮은 결측 데이터 환경에서 적절한 가중치 부여 방식이 기존 방법에 비해 성능을 크게 향상시킨다는 것을 입증한다.

ABSTRACT

In this paper we consider the low-rank matrix completion problem with specific application to forecasting in time series analysis. Briefly, the low-rank matrix completion problem is the problem of imputing missing values of a matrix under a rank constraint. We consider a matrix completion problem for Hankel matrices and a convex relaxation based on the nuclear norm. Based on new theoretical results and a number of numerical and real examples, we investigate the cases when the proposed approach can work. Our results highlight the importance of choosing a proper weighting scheme for the known observations.

연구 동기 및 목표

• 기존의 주성분 분석(SSA)과 같은 전통적 예측 방법의 한계를 해결하기 위해 더 견고한 행렬 완성 프레임워크를 개발하기 위해.
• 시계열 예측에서 흔히 나타나는 구조적 결측 데이터 패턴 하에서 핵심 노름 유사도가 저질 헨켈 행렬을 정확히 복원할 수 있는 조건을 조사하기 위해.
• 감쇠되지 않은 또는 지수적으로 증가하는 성분을 포함한 시계열의 예측 성능을 향상시키기 위해 적응형 가중치 부여 방식을 도입하기 위해.
• 예측 정확도와 안정성을 향상시키기 위해 최적의 헨켈 행렬 윈도우 길이와 구조적 파라미터를 결정하기 위해.

제안 방법

• 시계열 예측 문제를 저질 헨켈 행렬 완성 문제로 재구성하여, 시간적 시계열을 헨켈 행렬 구조에 통합한다.
• NP-난해한 저질 행렬 완성 문제를 해결하기 위해 볼록 유사도로 핵심 노름 최소화를 적용한다.
• 과거 관측치에 서로 다른 가중치를 할당하는 새로운 가중치가 부여된 핵심 노름 공식을 도입하며, 특히 지수 가중치를 사용하여 증가하는 지수 성분을 처리한다.
• 핵심 노름 유사도를 통해 정확한 저질 완성을 보장할 수 있는 결측값 수에 대한 이론적 경계를 유도한다.
• 실제 구현을 가능하게 하기 위해 볼록 최적화 문제를 수치적으로 해결하기 위해 MATLAB의 CVX를 사용한다.
• 이론적 증명에서 QR 분해와 기저 변환을 사용하여 인증 행렬의 프레베니우스 노름에 대한 경계를 확립함으로써 복원 조건을 보장한다.

실험 결과

연구 질문

• RQ1 구조적 결측 데이터 패턴을 가진 헨켈 행렬에 대해 핵심 노름 유사도가 정확한 저질 완성을 제공하는 조건은 무엇인가?
• RQ2 특히 지수 가중치를 포함한 가중치 부여 방식의 선택이 증가하거나 진동 성분을 포함한 시계열의 예측 정확도에 미치는 영향은 무엇인가?
• RQ3 예측 성능을 극대화하기 위해 헨켈 행렬을 구성하기 위한 최적의 윈도우 길이는 무엇인가?
• RQ4 결측값 수에 대한 이론적 경계는 수치 실험을 통해 더욱 날카롭게 다듬고 검증될 수 있는가?
• RQ5 제안된 가중치가 부여된 행렬 완성 방법은 실제 및 합성 시계열에서 고전적 예측 기법과 비교해 어떻게 성능을 발휘하는가?

주요 결과

• 감쇠되지 않거나 지수적으로 증가하는 주기적 성분을 포함한 시계열의 경우, 결측값 수가 적을 경우 핵심 노름 유사도가 정확한 저질 해를 복원하며, 허용 가능한 최대 결측값 수에 대한 이론적 경계가 존재한다.
• 핵심 노름 공식에 지수 가중치를 적용하면 지수적으로 증가하는 성분을 포함한 시계열의 예측 정확도가 크게 향상되며, 무가중치 접근 방식보다 뛰어난 성능을 보인다.
• 이론적 분석 결과, 제안된 방법은 시계열이 유한 질을 가지는 경우에 특정 조건 하에서 정확한 복원을 보장함을 보여준다.
• 수치 실험 결과, 가중치가 부여된 공식이 구조적 결측 데이터와 비정상 성분이 존재하는 상황에서 표준 방법보다 더 뛰어난 예측 성능을 달성함을 확인하였다.
• 헨켈 행렬의 최적 윈도우 길이는 기저 시계열의 구조에 따라 달라지며, 경험적 증거에 따르면 중간 정도의 윈도우 길이가 편향과 분산의 최적의 균형을 이룬다.
• 복원 증명에서 인증 행렬의 프레베니우스 노름은 투영 연산자의 차이에 의해 경계지며, 이는 특정 질과 데이터 패턴 하에서 복원 조건의 타당성을 보장한다.