[논문 리뷰] Quantum-Inspired Tensor Neural Networks for Option Pricing

Raj Patel, Chia-Wei Hsing외 13명|arXiv (Cornell University)|2022. 12. 28.

Tensor decomposition and applications인용 수 4

한 줄 요약

이 논문은 고차원 옵션 가격 정하기를 위한 딥러닝에서 가속화와 메모리 사용량 감소를 위해 양자 힌트를 받은 텐서 신경망(TNN)과 새로운 텐서 네트워크 초기화 방법(TNN Init)을 제안한다. 밀집층 가중치를 텐서 트레인 분해로 대체함으로써 TNN은 파라미터 수를 크게 줄이고 수렴 속도를 높이며, DNN에 비해 유사하거나 더 높은 정확도를 달성한다. 이는 헤스턴 모델과 5~10차원의 버무디안 옵션 가격 정하기에서 검증되었다.

ABSTRACT

Recent advances in deep learning have enabled us to address the curse of dimensionality (COD) by solving problems in higher dimensions. A subset of such approaches of addressing the COD has led us to solving high-dimensional PDEs. This has resulted in opening doors to solving a variety of real-world problems ranging from mathematical finance to stochastic control for industrial applications. Although feasible, these deep learning methods are still constrained by training time and memory. Tackling these shortcomings, Tensor Neural Networks (TNN) demonstrate that they can provide significant parameter savings while attaining the same accuracy as compared to the classical Dense Neural Network (DNN). In addition, we also show how TNN can be trained faster than DNN for the same accuracy. Besides TNN, we also introduce Tensor Network Initializer (TNN Init), a weight initialization scheme that leads to faster convergence with smaller variance for an equivalent parameter count as compared to a DNN. We benchmark TNN and TNN Init by applying them to solve the parabolic PDE associated with the Heston model, which is widely used in financial pricing theory.

연구 동기 및 목표

• 금융 파생상품 가격 정하기를 위한 고차원 포아르비크 PDE를 해결할 때 발생하는 차원의 극복 문제를 해결한다.
• 옵션 가격 정하기에 사용되는 딥러닝 모델의 메모리 소비와 학습 시간을 줄인다.
• 기존 DNN에 비해 정확도를 유지하거나 향상시키면서도 파라미터 효율적인 신경망 아키텍처를 개발한다.
• 수렴 속도 향상과 학습의 분산 감소를 위해 새로운 가중치 초기화 방법(TNN Init)을 도입한다.
• 실제 금융 모델인 헤스턴 모델과 버무디안 옵션에서 TNN과 TNN Init을 기존 파라미터 수와 동일한 DNN과 비교하여 벤치마킹한다.

제안 방법

• DNN의 밀집층 가중치 행렬을 텐서 트레인(TT) 분해로 대체하여 파라미터 수를 줄이는 텐서 신경망(TNN)을 구성한다.
• 가중치 텐서를 효율적인 저장과 계산이 가능한 매트릭스 곱 연산자(MPO) 표현으로 매개변수화한다.
• TNN에 특화된 새로운 가중치 초기화 방법인 TNN Init을 구현하여 학습 안정성과 수렴 속도를 향상시킨다.
• 헤스턴 모델의 포아르비크 PDE를 신경망으로 해결 가능한 정방향-역방향 확률미분방정식(FBSDE)으로 변환한다.
• 기초 자산의 시뮬레이션 경로를 기반으로 Adam 옵티마이저와 평균제곱오차(MSE) 손실을 사용해 TNN 및 DNN 모델을 학습시킨다.
• 버무디안 옵션 가격 정하기에서 각 행사일에 대한 계속 가치를 추정하기 위해 피드포워드 네트워크를 사용해 순차적 역방향 인덕션을 수행한다.

실험 결과

연구 질문

• RQ1 TNN는 고차원 옵션 가격 정하기에서 DNN에 비해 유사하거나 더 높은 정확도를 달성하면서도 현저히 적은 파라미터를 사용할 수 있는가?
• RQ2 TNN Init 초기화 방법은 기존 DNN 초기화에 비해 수렴 속도를 빠르게 하고 학습의 분산을 줄이는가?
• RQ3 헤스턴 모델에서 TNN의 학습 속도와 메모리 소비는 동일한 파라미터 수를 가진 DNN에 비해 어떻게 비교되는가?
• RQ4 TNN는 장기-스미스 방법에 비해 조기 행사 옵션의 계산 비용을 얼마나 줄일 수 있는가?
• RQ5 TNN는 몬테카를로 샘플링이나 격자 기반 방법에 의존하지 않고도 고차원 PDE를 효과적으로 해결할 수 있는가?

주요 결과

• TNN는 파라미터 수를 크게 줄이고도 DNN와 동일한 정확도를 달성하여 뚜렷한 파라미터 절감 효과를 보였다.
• 헤스턴 모델에서 TNN는 동일한 파라미터 수를 가진 DNN보다 더 빠르게 수렴하고 분산이 낮았다.
• 5개 자산 버무디안 옵션에서 TNN는 26.13 ± 0.18의 가격을 기록했고, DNN는 26.01 ± 0.18을 기록하며 모든 행사일에서 더 낮은 손실을 보였다.
• 10개 자산 버무디안 옵션에서 TNN는 38.14 ± 0.25의 가격을 기록했고, DNN는 37.92 ± 0.27을 기록하며 학습 중 일관되게 낮은 손실을 기록했다.
• TNN는 성능을 유지하거나 향상시키면서도 학습 시간과 메모리 사용량을 줄였다. 특히 고차원 환경에서 두드러진 성능 향상을 보였다.
• TNN Init 초기화 방법은 실제로 수렴 속도를 높이고 학습 분산을 감소시켜 기존 DNN 초기화 방법을 능가했다.