[논문 리뷰] On the universality of the volatility formation process: when machine learning and rough volatility agree

Mathieu Rosenbaum, Jianfei Zhang|arXiv (Cornell University)|2022. 06. 28.

Stock Market Forecasting Methods인용 수 11

한 줄 요약

이 논문은 일일 수익률과 변동성을 기반으로 훈련된 풀링된 LSTM 모델을 사용하여 수백 종의 유동성 있는 주식에서 변동성 형성 과정의 일반성(보편성)을 입증한다. 이 모델은 자산에 특화된 파rametric 모델보다 성능이 뛰어나며, 고정된 파rameters를 가진 근사 분수 차분 확률적 변동성(RFSV)과 이차 근사 헤스턴(QRH) 모델의 단순한 조합이 LSTM의 성능을 재현함으로써, 과거 변동성과 가격 추세에 의해 구동되는 비파라미터리 메커니즘이 보편적임을 확인한다.

ABSTRACT

We train an LSTM network based on a pooled dataset made of hundreds of liquid stocks aiming to forecast the next daily realized volatility for all stocks. Showing the consistent outperformance of this universal LSTM relative to other asset-specific parametric models, we uncover nonparametric evidences of a universal volatility formation mechanism across assets relating past market realizations, including daily returns and volatilities, to current volatilities. A parsimonious parametric forecasting device combining the rough fractional stochastic volatility and quadratic rough Heston models with fixed parameters results in the same level of performance as the universal LSTM, which confirms the universality of the volatility formation process from a parametric perspective.

연구 동기 및 목표

• 다양한 유동성 있는 주식 간에 개별 자산 특성과 무관한 보편적인 변동성 형성 메커니즘이 존재하는지 조사하기.
• 풀링된 데이터에 기반한 단일 비파라미터 기계학습 모델이 일일 실현 변동성 예측에서 자산에 특화된 파라미터 모델보다 우월한 성능을 내는지 테스트하기.
• 보편적인 비파라미터리 LSTM의 성능을 단순한 고정 파라미터 파라미터 모델이 재현할 수 있는지 확인하여, 잠재적인 변동성 역학의 보편성을 확인하기.
• 과거 변동성과 과거 수익률(특히 가격 추세)이 현재 변동성에 미치는 영향, 특히 가격 추세가 변동성에 피드백 효과를 미치는 방식을 분석하기.

제안 방법

• 과거 800여 종의 유동성 있는 주식에 대한 풀링된 데이터셋을 기반으로 일일 실현 변동성과 수익률을 입력으로 사용하여 다음 날의 변동성을 예측하는 LSTM 네트워크를 훈련한다.
• LSTM 모델은 미국 및 유럽 주식 등 훈련하지 않은 시장까지 포함하여 검증용으로 평가되며, 일반화 능력과 보편성을 테스트한다.
• 고정된 파라미터를 가진 RFSV와 QHR 모델을 조합하여 파라미터 기준 모델을 구성하며, 이는 풀링된 데이터셋에 한 번만 캘리브레이션된다.
• MSE(평균제곱오차)를 평가 지표로 사용하여 LSTM의 성능을 주식에 특화된 파라미터 모델(HAR 등)과 고정 파라미터 RFSV+QRH 조합과 비교한다.
• RFSV+QRH 예측은 가중 평균 방식으로 조합되며, $(1-\lambda)\hat{\sigma}^{RFSV} + \lambda\hat{\sigma}^{QRH}$ 로 표현되며, $\lambda \approx 0.1$ 이 성능을 최적화한다.
• 파라미터 안정성은 다양한 시장과 시간대에서 $a$, $b$, $c$ 를 추정하여 테스트하며, 고정 파라미터 모델에선 중앙값을 사용한다.

실험 결과

연구 질문

• RQ1 다양한 유동성 있는 주식 간에 개별 자산 특성과 무관한 보편적인 변동성 형성 메커니즘이 존재하는가?
• RQ2 풀링된 데이터에 기반한 단일 비파라미터 LSTM 모델이 일일 실현 변동성 예측에서 일관되게 자산에 특화된 파라미터 모델을 능가할 수 있는가?
• RQ3 간단한 고정 파라미터 파라미터 모델이 근사 분수 변동성과 쿠즈바흐 효과를 기반으로 하여 보편적인 LSTM의 성능을 재현할 수 있는가?
• RQ4 과거 변동성과 과거 수익률(특히 가격 추세)이 자산 간 현재 변동성에 미치는 상대 기여도는 어떠한가?

주요 결과

• 800여 종의 주식으로 구성된 풀링된 데이터셋을 기반으로 훈련된 보편적 LSTM 모델은 검증용 예측에서 자산에 특화된 파라미터 모델을 일관되게 능가한다.
• LSTM은 미세조정 없이도 유럽 주식 등 새로운 시장으로 일반화가 잘 되며, 학습된 변동성 형성 메커니즘의 강건성과 보편성을 시사한다.
• RFSV와 QHR 모델의 고정 파라미터 조합($H = 0.055$, $a = 0.043$, $b = 0.74$, $c = 0.55$)이 보편적 LSTM의 성능과 유사한 수준의 예측 성능을 달성한다.
• 미국 및 유럽 시장에서의 중앙값 파라미터 추정치는 분산이 낮아 보편적이고 안정된 변동성 형성 과정의 존재를 뒷받침한다.
• QRH 모델이 과거 가격 추세가 변동성에 피드백 효과를 미치는 쿠즈바흐 효과를 포함하고 있어 성능 향상에 기여하며, RFSV와 조합했을 때 최적의 $\lambda \approx 0.1$ 에서 성능이 최고로 나타난다.
• 연구는 보편적 변동성 형성 과정의 핵심 특징이 강력한 쿠즈바흐 효과를 갖춘 근사 분수 변동성 프레임워크에 의해 잘 포착되며, 자산 간 파라미터 변동이 최소한임을 확인한다.