[논문 리뷰] Comprehensive Analysis of Time Series Forecasting Using Neural Networks.

Manie Tadayon, Yumi Iwashita|arXiv (Cornell University)|2020. 01. 27.

Time Series Analysis and Forecasting참고 문헌 21인용 수 4

한 줄 요약

이 논문은 시간 시계열 예측을 위해 동적 및 정적 측정치를 통합하는 하이브리드 신경망 아키텍처를 제안하며, 군집화를 통해 예측 효율성과 정확도를 향상시킵니다. 결과적으로 특성 기반 군집화가 거리 기반 군집화보다 속도와 효과성 면에서 뛰어나며, 더 많은 예측 변수를 추가한다고 해서 항상 예측 성능이 향상되지는 않습니다.

ABSTRACT

Time series forecasting has gained lots of attention recently; this is because many real-world phenomena can be modeled as time series. The massive volume of data and recent advancements in the processing power of the computers enable researchers to develop more sophisticated machine learning algorithms such as neural networks to forecast the time series data. In this paper, we propose various neural network architectures to forecast the time series data using the dynamic measurements; moreover, we introduce various architectures on how to combine static and dynamic measurements for forecasting. We also investigate the importance of performing techniques such as anomaly detection and clustering on forecasting accuracy. Our results indicate that clustering can improve the overall prediction time as well as improve the forecasting performance of the neural network. Furthermore, we show that feature-based clustering can outperform the distance-based clustering in terms of speed and efficiency. Finally, our results indicate that adding more predictors to forecast the target variable will not necessarily improve the forecasting accuracy.

연구 동기 및 목표

• 시간 시계열 예측의 정확도를 향상시키기 위해 동적 및 정적 측정치를 효과적으로 통합하는 신경망 아키텍처를 개발하는 것.
• 이상치 탐지 및 군집화 기법이 예측 정확도에 미치는 영향을 평가하는 것.
• 효율성과 성능 측면에서 특성 기반 군집화와 거리 기반 군집화 방법을 비교하는 것.
• 예측 변수의 수를 늘일수록 예측 결과가 항상 향상되는지 조사하는 것.

제안 방법

• 동적 및 정적 시간 시계열 측정치를 모두 처리할 수 있도록 설계된 여러 신경망 아키텍처를 제안한다.
• 특히 특성 기반 군집화와 거리 기반 군집화를 포함한 군집화 기법을 예측 파이프라인에 통합하여 유사한 시간 시계열을 그룹화한다.
• 예측 이전에 데이터 전처리를 위해 이상치 탐지를 적용하여 모델의 강건성을 향상시킨다.
• 정적 특징을 임베딩하고 동적 시퀀스와 함께 신경망 아키텍처 내에서 통합하는 하이브리드 모델링 접근법을 사용한다.
• 동적 측정치(예: 순차적인 데이터 포인트)를 순환 또는 순차적 신경망의 입력으로 사용하여 시간 패턴을 학습한다.
• 표준 예측 평가 지표를 사용하여 모델 성능을 평가하며, 군집화 변형과 예측 변수 수를 비교한다.

실험 결과

연구 질문

• RQ1 동적 및 정적 측정치를 통합하는 하이브리드 신경망 아키텍처는 시간 시계열 예측 정확도에 어떤 영향을 미치는가?
• RQ2 시간 시계열 데이터의 군집화는 예측 성능과 예측 속도를 향상시키는가?
• RQ3 특성 기반 군집화가 효율성과 정확성 측면에서 거리 기반 군집화를 능가할 수 있는가?
• RQ4 예측 변수의 수를 늘릴수록 예측 결과가 더 나아지거나, 포화 현상이 발생하는가?

주요 결과

• 특성 기반 군집화는 거리 기반 군집화에 비해 예측 속도와 효율성 면에서 뚜렷한 향상을 보였다.
• 군집화로 인해 예측 정확도와 전체 예측 시간이 향상되어 이중적인 이점이 입증되었다.
• 신경망 아키텍처를 통해 정적 및 동적 측정치를 통합함으로써 더 강건한 예측 모델이 도출되었다.
• 더 많은 예측 변수를 추가한다고 해서 반드시 예측 정확도가 향상되지는 않으며, 복잡도 증가에 따른 포화 현상이 존재할 수 있음을 시사한다.
• 이상치 탐지는 모델의 강건성에 기여하지만, 결과에서 정확도에 대한 직접적 영향은 정량화되지 않았다.
• 정적 및 동적 입력을 조합한 하이브리드 아키텍처는 단지 동적 입력을 사용하는 모델보다 열등한 성능을 보였다.