[논문 리뷰] A Self-supervised Approach to Hierarchical Forecasting with Applications to Groupwise Synthetic Controls

Konstantin Mishchenko, Mallory Montgomery외 1명|arXiv (Cornell University)|2019. 06. 25.

Forecasting Techniques and Applications인용 수 7

한 줄 요약

이 논문은 시간 시리즈 예측을 위한 최대우도 학습 목표에 계층적 일관성(reconciliation)을 직접 통합하는 자기지도 학습 접근법을 제안한다. 이는 계층 수준 간 일관성을 강제하는 미분 가능 손실 함수를 사용한다. 예측과 일관성 조정을 함께 최적화함으로써, 테스트 정확도를 향상시켜 부모 노드에서 MSE를 최대 3.5배까지 감소시키며, 일관성 불확실성을 적절히 반영한 신뢰구간을 생성한다. 이는 최첨단 후처리 일관성 조정(HTS) 방법보다 뛰어난 성능을 발휘한다.

ABSTRACT

When forecasting time series with a hierarchical structure, the existing state of the art is to forecast each time series independently, and, in a post-treatment step, to reconcile the time series in a way that respects the hierarchy (Hyndman et al., 2011; Wickramasuriya et al., 2018). We propose a new loss function that can be incorporated into any maximum likelihood objective with hierarchical data, resulting in reconciled estimates with confidence intervals that correctly account for additional uncertainty due to imperfect reconciliation. We evaluate our method using a non-linear model and synthetic data on a counterfactual forecasting problem, where we have access to the ground truth and contemporaneous covariates, and show that we largely improve over the existing state-of-the-art method.

연구 동기 및 목표

• 계층적 시간 시리즈에서 독립적 예측과 후처리 일관성 조정의 한계를 해결하기 위해, 이는 일관성 없는 예측과 신뢰도가 떨어지는 신뢰구간을 초래할 수 있다.
• 모든 최대우도 목표에 통합될 수 있는, 미분 가능한 일관성 조정 손실 함수를 개발하기 위해.
• 모델 학습 과정에서 계층의 구조적 제약 조건을 활용하여 예측 정확도와 불확실성 정량화를 향상시키기 위해.
• 기본 진술과 동시 발생하는 공변수에 접근 가능한 반사적 예측 설정에서 방법을 평가하기 위해.
• 일관성 조정이 비선형 모델에서 일반화 오차를 감소시키는 정규화(regularizer) 역할을 함을 보여주기 위해.

제안 방법

• 이 방법은 모델 학습 중 계층 일관성에서의 이탈을 방지하기 위해 자기지도 학습 기반의 일관성 조정 손실을 도입한다.
• 손실 함수는 자식 예측과 그 부모 예측 간 제곱 차이의 합으로 정의되며, 하이퍼파rameter λ로 스케일링된다.
• 일반적인 최대우도 목표에 일관성 조정 손실을 추가함으로써, 예측과 일관성 조정을 종단간(end-to-end) 최적화할 수 있다.
• 이 방법은 한 개의 은닉층과 ReLU 활성화 함수를 갖는 다층퍼셉트론(MLP)에 적용되며, 합성 계층적 시간 시리즈 데이터로 훈련된다.
• 순수 예측과 반사적 예측 모두에 적용 가능하며, 최대우도 목표를 갖는 모든 모델에 적용 가능하다.
• 일관성 조정 손실이 더 단순하고 일반화 능력이 뛰어난 해를 유도하는 인덕티브 바이어스(inductive bias)를 유도함을 보여준다.

실험 결과

연구 질문

• RQ1 자기지도 학습 기반의 일관성 조정 손실은 독립적 예측과 후처리 일관성 조정 대비 계층적 시간 시리즈에서 예측 정확도를 향상시키는가?
• RQ2 일관성 조정을 학습 목표에 통합할 경우, 불확실성 추정과 신뢰구간 커버리지에 어떤 영향을 미치는가?
• RQ3 제한된 레이블 데이터를 가진 비선형 모델에서 일관성 조정 손실이 얼마나 강력한 정규화 역할을 하는가?
• RQ4 테스트 오차 감소 측면에서 HTS를 초월하는가? 동시에 계층 일관성을 유지하는가?
• RQ5 λ(일관성 강도)의 선택이 학습 오차와 테스트 오차 사이의 트레이드오프에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 기본 미일관성 모델 대비 부모 노드(y₁)에서 테스트 세트 평균제곱오차(MSE)를 최대 3.5배까지 감소시켜 뚜렷한 정확도 향상을 보였다.
• 일관성 조정 손실은 하위 노드보다는 고수준 노드(y₁, y₂, y₃)에서 테스트 오차를 더 크게 감소시켜, 더 큰 과거 그레인에서 더 강력한 정규화 효과를 나타낸다.
• 일관성 페널티로 인해 학습 MSE가 4배 증가했음에도 불구하고, 일반화 성능이 향상되어 일관성 조정이 효과적인 정규화제로 작용함을 보여준다.
• 이 방법은 일관성 불확실성을 적절히 반영한 신뢰구간을 생성하여, 다중 가설 검정에서 사후 조정이 필요 없도록 한다.
• HTS는 일관성 오차를 거의 0으로 줄였지만 테스트 정확도 향상은 미미했고, 반면 제안된 방법은 더 낮은 테스트 오차와 더 나은 일관성을 동시에 달성했다.
• 공변수가 유의미하고 계층이 크기나 산업 등 의미 있는 기준에 따라 구성된 경우, 성능 향상이 가장 두드러진다.