[논문 리뷰] Predictive properties of forecast combination, ensemble methods, and Bayesian predictive synthesis

Kōsaku Takanashi, Kenichiro McAlinn|arXiv (Cornell University)|2019. 11. 20.

Forecasting Techniques and Applications참고 문헌 35인용 수 2

한 줄 요약

이 논문은 연속시간 확률과정을 기반으로 한 비선형 예측 조합 방법을 제안하며, 이토의 보조정리(Itô's lemma)를 사용해 예측 오차의 동역학을 모델링한다. 비선형 융합이 선형 조합, 평균화, 또는 앙상블과 비교해 더 효과적으로 기대 제곱 예측 오차를 감소시킴을 보여주며, 이는 일상적인 현실 조건 하에서도 성립한다. 베이지안 예측 융합은 특수한 경우로 포함된다.

ABSTRACT

This paper studies the theoretical predictive properties of classes of forecast combination methods. A novel strategy based on continuous time stochastic processes is proposed and developed, where the combined predictive error processes are expressed as stochastic differential equations, evaluated using Ito's lemma. We identify a class of forecast combination methods, which we categorize as non-linear synthesis, and find that it entails an extra term in the predictive error process that corrects the bias from misspecification and dependence amongst forecasts, effectively improving forecasts. We show that a subclass of the recently developed framework of Bayesian predictive synthesis fits within this class. Theoretical properties are examined and we show that non-linear synthesis improves the expected squared forecast error over any and all linear combination, averaging, and ensemble of forecasts, under mild conditions that are met in most real applications. We discuss the conditions for which non-linear synthesis outperforms linear combinations, and its implications for developing further strategies. A finite sample simulation study is presented to illustrate our results.

연구 동기 및 목표

• 예측 조합 방법의 이론적 예측 성질, 특히 비선형 접근법의 성질을 조사하기 위해.
• 예측 오차 동역학을 모델링하기 위한 연속시간 확률과정 프레임워크를 개발하기 위해.
• 비선형 융합이 선형 조합 및 앙상블 방법보다 우월해지는 조건을 규명하기 위해.
• 베이지안 예측 융합이 제안된 비선형 융합 프레임워크의 하위 클래스임을 보여주기 위해.
• 이론적 및 시뮬레이션 분석을 통해 기대 제곱 예측 오차의 향상을 입증하기 위해.

제안 방법

• 연속시간 확률과정에서 유도된 확률미분방정식을 사용해 통합 예측 오차를 모델링하기 위해.
• 예측 오차 과정의 동역학을 예측 조합 프레임워크 내에서 분석하기 위해 이토의 보조정리(Itô's lemma)를 적용하기 위해.
• 편향과 종속성을 위한 추가 보정 항을 포함한 비선형 융합이라는 새로운 방법론 클래스를 정의하기 위해.
• 비선형 융합이 선형 조합 및 앙상블 방법보다 우월해지는 이론적 조건을 유도하기 위해.
• 비선형 융합 프레임워크 내에서 베이지안 예측 융합을 특수한 경우로 포함하는 하위 클래스를 설정하기 위해.
• 유한 표본 시뮬레이션 연구를 수행해 이론적 결과를 검증하기 위해.

실험 결과

연구 질문

• RQ1 비선형 예측 조합 방법은 선형 조합과 비교해 예측 정확도에서 어떻게 다를까?
• RQ2 비선형 융합이 선형 방법보다 기대 제곱 예측 오차를 더 효과적으로 감소시키는 데 필요한 이론적 조건은 무엇인가?
• RQ3 비선형 융합에 편향 보정 항을 포함시키는 것이 예측 성능 향상에 어떤 방식으로 기여하는가?
• RQ4 베이지안 예측 융합은 제안된 비선형 융합 프레임워크와 어떤 관계가 있는가?
• RQ5 비선형 융합이 표준 앙상블 및 평균화 기법보다 뛰어나지 않기 위한 경험적 조건은 무엇인가?

주요 결과

• 비선형 융합은 일반적인 현실 조건 하에서 선형 조합, 평균화, 또는 앙상블 방법보다 기대 제곱 예측 오차를 더 효과적으로 감소시킨다.
• 비선형 융합의 추가 보정 항은 모형 부정확성과 예측 종속성에서 기인하는 편향을 특별히 다룬다.
• 베이지안 예측 융합은 제안된 비선형 융합 방법의 클래스 내에 엄밀하게 포함된다.
• 이론적 분석을 통해 비선형 융합이 예측 정확도 측면에서 선형 방법을 능가함을 확인했다.
• 유한 표본 시뮬레이션은 이론적 결과를 지지하며, 실용적 환경에서 일관된 성능 향상을 보여준다.
• 예측 종속성과 모형 부정확성이 존재하는 다양한 예측 시나리오에서 이 방법은 강건함을 보였다.