[논문 리뷰] The Capacity and Robustness Trade-off: Revisiting the Channel Independent Strategy for Multivariate Time Series Forecasting

Lu Han, Han-Jia Ye외 1명|arXiv (Cornell University)|2023. 04. 11.

Forecasting Techniques and Applications인용 수 11

한 줄 요약

논문은 Channel Independent (CI) 훈련이 다변 시계열 예측에서 종종 Channel Dependent (CD)를 능가하고, 용량-강건성 트레이드오프를 분석하며, CD를 개선하기 위한 Predict Residuals with Regularization (PRReg)을 제안합니다.

ABSTRACT

Multivariate time series data comprises various channels of variables. The multivariate forecasting models need to capture the relationship between the channels to accurately predict future values. However, recently, there has been an emergence of methods that employ the Channel Independent (CI) strategy. These methods view multivariate time series data as separate univariate time series and disregard the correlation between channels. Surprisingly, our empirical results have shown that models trained with the CI strategy outperform those trained with the Channel Dependent (CD) strategy, usually by a significant margin. Nevertheless, the reasons behind this phenomenon have not yet been thoroughly explored in the literature. This paper provides comprehensive empirical and theoretical analyses of the characteristics of multivariate time series datasets and the CI/CD strategy. Our results conclude that the CD approach has higher capacity but often lacks robustness to accurately predict distributionally drifted time series. In contrast, the CI approach trades capacity for robust prediction. Practical measures inspired by these analyses are proposed to address the capacity and robustness dilemma, including a modified CD method called Predict Residuals with Regularization (PRReg) that can surpass the CI strategy. We hope our findings can raise awareness among researchers about the characteristics of multivariate time series and inspire the construction of better forecasting models.

연구 동기 및 목표

• 다양한 데이터 세트와 모델에 걸쳐 다변 시계열을 독립적인 단변량 시계열로 취급하는 CI가 모든 채널을 함께 사용하는 CD보다 성능이 우월한 이유를 조사한다.
• 다변 시계열 예측에서 CI와 CD 전략 간의 용량 대 강건성 트레이드오프를 특성화한다.
• CD 기반 모델의 성능 향상을 위한 실용적 전략을 제시하고, 새로운 목표 함수(PRReg)를 포함한다.

제안 방법

• 다변 시계열 예측을 위한 CD와 CI 훈련 전략을 형식화한다.
• 비딥 및 딥 모델을 사용하여 실제 세계의 9개 데이터 세트에 걸친 광범위한 실험적 비교를 수행한다.
• 자기상관 함수(ACF)를 통한 분포 드리프트 분석과 CD 및 CI에 대한 영향.
• 선형 자기회귀(AR) 관점과 Yule-Walker 방정식을 통한 이론적 연결을 제공한다.
• CD의 비강건성 문제를 다루기 위해 Predict Residuals with Regularization (PRReg)을 제안한다.

실험 결과

연구 질문

• RQ1 다양한 데이터 세트와 모델에서 Channel Independent (CI) 전략이 일관되게 Channel Dependent (CD)를 능가하는가?
• RQ2 배포 드리프트 하에서 특히 용량과 강건성 측면에서 CI의 실증적 이점은 무엇으로 설명되는가?
• RQ3 CD 기반 모델을 개선하고 잠재적으로 CI를 능가하도록 학습 목표를 어떻게 수정할 수 있는가?
• RQ4 CD/CI 성능에 영향을 주는 실용적 요인들은 무엇이며 이를 활용해 더 나은 예측 모델을 설계하려면 어떻게 해야 하는가?

주요 결과

• CI는 대다수의 실험에서 CD를 능가하며, 때로는 상당한 격차로 우수한 성능을 보인다; CI는 복잡한 모델에서 평균 약 20% 이상 향상을 제공한다.
• CI는 오차를 낮출 뿐만 아니라 성능 분산도 감소시켜 CD보다 더 강건하고 일관된 결과를 나타낸다.
• CD는 더 높은 용량을 가지지만 분포 드리프트에 대한 강건성이 낮고, CI는 더 낮은 용량이지만 더 높은 강건성을 가진다.
• 저자들은 실증적 및 선형 설정에서 이론적으로도 CI가 채널 간 평균 ACF에 의존한다는 것을 보여주며, 이는 개별 채널 ACF보다 드리프트가 작아 CI의 강건성에 기여한다.
• 새로운 목표 함수 Predict Residuals with Regularization (PRReg)은 많은 경우 CI를 능가할 수 있으며, CD의 비강건성을 해결한다.
• 이 연구는 공정한 비교 및 추가 개선을 위해 훈련 전략을 알고리즘 설계로부터 분리할 것을 시사한다.