[논문 리뷰] A Novel Approach to Forecasting Financial Volatility with Gaussian Process Envelopes

Syed Ali Asad Rizvi, Stephen Roberts외 2명|arXiv (Cornell University)|2017. 05. 02.

Gaussian Processes and Bayesian Inference참고 문헌 12인용 수 3

한 줄 요약

이 논문은 재무 변동성 예측을 위해 수익률 시계열의 상한선과 하한선을 모델링하는 새로운 가우시안 프로세스(GP) 회귀 방법을 제안한다. 이 방법은 전통적인 GARCH 모델보다 평균 제곱 오차(MSE) 기준 50% 향상되고, 랜덤 워크보다 20% 향상되어 2년간의 30분 간격으로 측정된 네 개의 통화쌍에서 성능을 뛰어나게 한다.

ABSTRACT

In this paper we use Gaussian Process (GP) regression to propose a novel approach for predicting volatility of financial returns by forecasting the envelopes of the time series. We provide a direct comparison of their performance to traditional approaches such as GARCH. We compare the forecasting power of three approaches: GP regression on the absolute and squared returns; regression on the envelope of the returns and the absolute returns; and regression on the envelope of the negative and positive returns separately. We use a maximum a posteriori estimate with a Gaussian prior to determine our hyperparameters. We also test the effect of hyperparameter updating at each forecasting step. We use our approaches to forecast out-of-sample volatility of four currency pairs over a 2 year period, at half-hourly intervals. From three kernels, we select the kernel giving the best performance for our data. We use two published accuracy measures and four statistical loss functions to evaluate the forecasting ability of GARCH vs GPs. In mean squared error the GP's perform 20% better than a random walk model, and 50% better than GARCH for the same data.

연구 동기 및 목표

• GARCH와 같은 파rametric 모델이 재무 수익률의 비대칭 변동성과 비선형 역동성을 포착하는 데에 한계가 있음을 해결하기 위해.
• 특히 가우시안 프로세스를 포함한 비모수적 베이지안 방법을 탐색하여, 강력한 분포 가정 없이도 강건한 변동성 예측이 가능한 방법을 개발하기 위해.
• 원시 수익률이 아닌 수익률의 감싸는 범위를 모델링하는 것이 예측 정확도 향상에 기여하고, 변동성 집합성과 비대칭성을 효과적으로 포착할 수 있는지 평가하기 위해.
• 엄격한 통계적 지표와 손실 함수를 사용하여 GP 기반 접근법을 GARCH 및 랜덤 워크 기준 모델과 비교하기 위해.
• 실제 금융 환경에서 초기화된 하이퍼파ram터 업데이트 및 커널 선택이 예측 성능에 미치는 영향을 조사하기 위해.

제안 방법

• 변동성 안정화와 부드러운 성질 향상을 위해 절댓값 또는 제곱 수익률의 상한선과 하한선을 로그 공간에서 가우시안 프로세스 회귀로 모델링한다.
• 양수 및 음수 수익률 시리즈를 별도로 처리한 후 예측치를 평균하여 비대칭 변동성 효과를 포착한다.
• 강건성과 정규화를 확보하기 위해 가우시안 사전분포를 사용한 최대 사후 추정법을 적용하여 하이퍼파ram터를 추정한다.
• 지수 함수를 사용하여 로그 공간에서의 GP 예측치를 원래 척도로 복원함으로써 변동성 예측치와 95% 신뢰구간을 회복한다.
• 순차적 예측 과정에서 공분산 행렬을 효율적으로 유지하기 위해 콜레스키 업데이트 및 다운데이트 기법을 활용하여 실시간 성능을 확보한다.
• 데이터에 대한 외부 샘플 예측 성능 기반으로 세 가지 후보 커널(예: 제곱 지수, 마테른) 중 최적의 커널을 선정한다.

실험 결과

연구 질문

• RQ1 수익률의 감싸는 범위에 대해 가우시안 프로세스 회귀를 적용하면, 기존의 GARCH 모델보다 재무 변동성 예측 성능이 뛰어나게 되는가?
• RQ2 양수와 음수 수익률을 별도로 모델링하는 것이 수익률을 대칭적으로 취급하는 것보다 변동성 예측 성능을 어떻게 향상시키는가?
• RQ3 각 예측 단계에서 하이퍼파ram터를 업데이트하는 것이 예측 정확도에 어떤 영향을 미치는가?
• RQ4 어느 GP 커널 구조가 FX 변동성에 대해 가장 뛰어난 외부 샘플 예측 성능을 보이는가?
• RQ5 MSE 및 통계적 손실 함수 기준으로 GP 기반 예측은 랜덤 워크 및 GARCH 모델과 비교해 어떻게 성능을 냈는가?

주요 결과

• GP 기반 감싸는 범위 모델은 네 개의 주요 통화쌍에 대해 2년간의 30분 간격 데이터 기간 동안 GARCH 모델 대비 평균 제곱 오차(MSE)를 50% 감소시켰고, 랜덤 워크 대비 20% 향상되었다.
• 절댓값 수익률의 감싸는 범위를 모델링하는 것이 원시 수익률에 직접적으로 회귀 분석하는 것보다 노이즈에 더 강건하며, 변동성 집합성도 더 효과적으로 포착하였다.
• 양수 및 음수 수익률 감싸는 범위를 별도로 모델링함으로써 시장 움직임이 변동성에 미치는 비대칭 영향을 효과적으로 포착하여 성능 향상이 뚜렷했다.
• 손실 함수 최소화 기준으로 제곱 지수 커널이 다른 커널들보다 예측 정확도에서 뛰어난 성능을 보였다.
• 각 예측 단계에서 하이퍼파ram터를 업데이트함으로써 모델의 적응력이 향상되었고, 이는 전체 성능 향상에 기여하였다.
• GP 접근법은 외곽치에 대해 더 강건하며, GARCH 모델이 조건부 정규분포를 가정하는 것과 달리 안정적인 예측 구간을 유지하였다.