[논문 리뷰] Adaptive Dynamic Model Averaging with an Application to House Price Forecasting

Alisa Yusupova, Nicos G. Pavlidis외 1명|arXiv (Cornell University)|2019. 12. 10.

Housing Market and Economics인용 수 4

한 줄 요약

이 논문은 동적 선형 모델(DLMs)에서 잊기 요소를 적응적으로 조정하기 위해 확률적 최적화를 사용하는 온라인, 데이터 기반 방법인 적응형 동적 모델 평균화(ADMA)를 제안한다. ADMA는 ConfHedge 알고리즘을 활용해 강건한 모델 조합을 수행하며, 사전 정의된 격자나 고정된 파라미터 없이 구조적 변화에 동적으로 대응함으로써 기준 모델 및 전통적인 DMA 사양에 비해 영국 주택 가격 예측 정확도를 향상시킨다.

ABSTRACT

Dynamic model averaging (DMA) combines the forecasts of a large number of dynamic linear models (DLMs) to predict the future value of a time series. The performance of DMA critically depends on the appropriate choice of two forgetting factors. The first of these controls the speed of adaptation of the coefficient vector of each DLM, while the second enables time variation in the model averaging stage. In this paper we develop a novel, adaptive dynamic model averaging (ADMA) methodology. The proposed methodology employs a stochastic optimisation algorithm that sequentially updates the forgetting factor of each DLM, and uses a state-of-the-art non-parametric model combination algorithm from the prediction with expert advice literature, which offers finite-time performance guarantees. An empirical application to quarterly UK house price data suggests that ADMA produces more accurate forecasts than the benchmark autoregressive model, as well as competing DMA specifications.

연구 동기 및 목표

• 구조적 불안정성 하에서 예측 정확도에 크게 영향을 미치는 동적 모델 평균화(DMA)에서 최적의 잊기 요소를 선택하는 데 도전하는 데 초점 맞추기.
• 고정되거나 격자 기반의 선택을 피하기 위해 온라인, 데이터 기반 방법으로 각 DLM에 대해 잊기 요소를 확률적 최적화를 통해 적응적으로 업데이트하는 방법 개발하기.
• 기존의 잊기 기반 가중치를 ConfHedge로 대체함으로써 모델 평균화를 향상시키기. ConfHedge는 유한 시간 성능 경계를 보장하는 파라미터 없는 알고리즘이다.
• 제안된 ADMA 방법론을 분기별 영국 주택 가격 데이터에 대해 실증적으로 평가하여 더 높은 예측 정확도를 입증하기.
• DMA에서 잊기 요소 선택을 위한 베이지안 또는 격자 기반 접근 방식에 대한 계산 효율적인 대안 제공하기.

제안 방법

• ADMA는 확률적 경사 하강법과 Adam 최적화기를 사용하여 각 DLM의 잊기 요소 λ를 순차적으로 업데이트하며, 한 단계 앞선 제곱 예측 오차의 기대값을 최소화한다.
• 적응형 잊기 DLM(AF-DLM) 구성 요소는 계수 추정치, 공분산 행렬 및 예측 분산에 대한 λ에 대한 기울기를 재귀 공식을 통해 계산한다.
• 모델 평균화는 고정된 잊기 요소를 ConfHedge 알고리즘으로 대체하며, 이 알고리즘은 전문가 조언 원리를 활용해 다수의 DLM 예측을 조합하고 유한 시간 성능 경계를 보장한다.
• 이전 성능에 기반해 가중치를 동적으로 조정하는 비모수적이고 신뢰도를 고려한 조합 규칙을 사용함으로써 언더플로우 문제를 피한다.
• 알고리즘은 완전히 온라인이며 사전 정의된 잊기 요소 격자가 필요 없으며, 베이지안 적분 또는 격자 검색에 비해 계산 효율성이 뛰어나다.
• 칼만 필터링을 통한 동적 계수 업데이트와 적응형 λ 조정을 통합함으로써 구조적 변화에 실시간으로 대응할 수 있다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 구조적 변화 하에서 DLM의 잊기 요소를 적응적으로 조정하면 예측 정확도가 향상되는가?
• RQ2 고정된 모델 평균화 가중치를 ConfHedge 기반 조합 규칙으로 대체하면 예측 성능과 강건성이 향상되는가?
• RQ3 ADMA는 영국 주택 가격 예측에서 기준 자동상관 모델과 표준 DMA 사양에 비해 어떻게 비교되는가?
• RQ4 λ 선택을 위한 확률적 최적화 접근 방식은 정확도와 계산 비용 측면에서 격자 기반 또는 베이지안 방법을 능가하는가?
• RQ5 macroeconomic 시계열에서 다양한 유형과 속도의 구조적 변화가 발생할 때 ADMA는 얼마나 높은 성능을 유지하는가?

주요 결과

• ADMA는 평균 제곱 오차(MSE)로 측정했을 때 기준 자동상관 모델에 비해 분기별 영국 주택 가격 예측에서 유의미하게 더 높은 정확도를 보인다.
• 고정되거나 격자 기반의 잊기 요소를 사용하는 경쟁적 DMA 사양에 비해 ADMA는 특히 구조적 불안정성 기간 동안 뛰어난 성능을 보인다.
• AF-DLM 구성 요소는 급격한 구조적 붕괴를 포함한 데이터 생성 과정의 다양한 변화 속도와 유형에 효과적으로 적응한다.
• ConfHedge 기반 모델 조합은 유한 시간 성능 보장을 달성하며, 최적의 모델 시퀀스에 대한 예측 오차가 알려진 경계 내에 유지됨을 보장한다.
• 다양한 λ 값에 대한 적분을 제거함으로써, ADMA는 베이지안 또는 격자 기반 접근 방식에 비해 계산 비용을 줄였다.
• 실증 결과는 적응형 잊기 요소가 변동성이 크거나 제도 전환 환경에서 더 민감하고 정확한 예측을 가능하게 한다고 나타낸다.