[논문 리뷰] TimeGPT-1

Azul Garza, Challu, Cristian외 1명|arXiv (Cornell University)|2023. 10. 05.

Time Series Analysis and Forecasting인용 수 23

한 줄 요약

TimeGPT은 시계열 예측을 위한 최초의 사전학습 기반 모델로, 다양한 데이터셋에 대한 제로샷 예측을 가능하게 하며 많은 기준선보다 우수합니다.

ABSTRACT

In this paper, we introduce TimeGPT, the first foundation model for time series, capable of generating accurate predictions for diverse datasets not seen during training. We evaluate our pre-trained model against established statistical, machine learning, and deep learning methods, demonstrating that TimeGPT zero-shot inference excels in performance, efficiency, and simplicity. Our study provides compelling evidence that insights from other domains of artificial intelligence can be effectively applied to time series analysis. We conclude that large-scale time series models offer an exciting opportunity to democratize access to precise predictions and reduce uncertainty by leveraging the capabilities of contemporary advancements in deep learning.

연구 동기 및 목표

• 보지 못한 데이터셋으로 일반화하는 시계열 예측을 위한 기반 모델의 타당성을 입증한다.
• TimeGPT를 사용한 제로샷 추론이 전통적인 통계적 및 딥러닝 벤치마크를 능가할 수 있음을 보인다.
• 사전 학습된 시계열 모델이 엔드투엔드 학습 파이프라인에 비해 효율성과 단순성의 이점을 갖는지 평가한다.

제안 방법

• 로컬 위치 인코딩을 갖춘 인코더-디코더 구조의 Transformer 기반 TimeGPT.
• 다양한 도메인에 걸친 공개적으로 이용 가능한 시계열 모음 중 가장 큰 규모(1천억 개 이상 데이터 포인트)로 훈련되었다.
• 다양한 주기(월간, 주간, 일간, 시간별)에서 300k개 이상의 시계열로 구성된 대규모 테스트 세트에 대한 제로샷 예측으로 평가.
• 강한 분포 가정 없이 예측 구간을 산출하기 위한 콘포멀 예측을 이용한 불확실성 정량화.
• 통계학적, 머신러닝 및 신경망 기반 예측 벤치마크와의 비교.
• 훈련 세부사항, 추론 속도 및 미세 조정의 잠재적 이점에 대한 논의.

실험 결과

연구 질문

• RQ1 추가 훈련 없이도 하나의 사전 학습된 TimeGPT 모델이 다양한 도메인의 보이지 않는 시계열을 예측할 수 있는가?
• RQ2 다양한 주기에서 제로샷 추론에서 TimeGPT의 성능이 통계, ML 및 딥러닝 벤치마크와 어떻게 비교되는가?
• RQ3 예측 기반 모델로서 TimeGPT를 배치할 때의 추론 속도 및 실질적 함의에서 얻는 효율성 향상은 무엇인가?
• RQ4 일부 시계열에 대한 TimeGPT의 미세 조정이 미치는 영향은 무엇인가?
• RQ5 이 설정에서 콘포멀 예측으로 생성된 불확실성 추정의 신뢰도는 어느 정도인가?

주요 결과

주기	지표	TimeGPT (Zero-shot)	최고 벤치마크	두 번째 벤치마크	세 번째 벤치마크
월간	rMAE	0.727	0.752 (TFT)	0.738 (NHITS)	0.799 (DOTheta)
월간	rRMSE	0.685	0.700 (TFT)	0.694 (NHITS)	0.734 (DOTheta)
주간	rMAE	0.878	0.954 (TFT)	0.883 (NHITS)	1.056 (CTheta)
주간	rRMSE	0.878	0.954 (TFT)	0.883 (NHITS)	1.056 (CTheta)
일간	rMAE	0.804	0.817 (TFT)	0.788 (NHITS)	0.837 (LGBM)
일간	rRMSE	0.780	0.791 (TFT)	0.771 (NHITS)	0.806 (LGBM)
시간당	rMAE	0.852	1.120 (TFT)	0.829 (NHITS)	0.898 (LGBM)
시간당	rRMSE	0.878	1.112 (TFT)	0.860 (NHITS)	0.896 (CES)

• TimeGPT는 제로샷 예측에서 다양한 주기에서 상위 3위 성능을 달성했다(광범위한 벤치마크 대비).
• TimeGPT 추론은 매우 빠르다(평균 시리즈당 0.6 ms), 전통적인 학습 기반 파이프라인보다 수 차례에서 수십 배 빠르다.
• 매우 크고 다양한 데이터셋으로 훈련된 덕분에 재훈련 없이도 보이지 않는 시계열에 일반화할 수 있다.
• 일부 시계열에 대해 TimeGPT를 미세 조정하면 제로샷 결과 대비 정확도가 향상된다.
• 콘포멀 예측은 강한 분포 가정 없이 불확실성 구간을 제공하여 위험 평가를 돕는다.