[論文レビュー] Extending Deep Learning Models for Limit Order Books to Quantile Regression

Zihao Zhang, Stefan Zohren+1 more|arXiv (Cornell University)|Jun 11, 2019

Stock Market Forecasting Methods参考文献 12被引用数 6

ひとこと要約

本稿では、数量回帰（QR）を用いて、限界注文書（LOB）データを用いて、長期および空売りポジションの両方のリターン分位数を同時にモデル化する深層学習アーキテクチャを提案する。畳み込み層による特徴抽出とLSTMブランチによる時系列モデリングを組み合わせることで、予測性能と頑健性が向上し、特に分位数推定値の組み合わせにおいて、LSEの5銘柄において従来のモデルを上回る性能を発揮する。

ABSTRACT

We showcase how Quantile Regression (QR) can be applied to forecast financial returns using Limit Order Books (LOBs), the canonical data source of high-frequency financial time-series. We develop a deep learning architecture that simultaneously models the return quantiles for both buy and sell positions. We test our model over millions of LOB updates across multiple different instruments on the London Stock Exchange. Our results suggest that the proposed network not only delivers excellent performance but also provides improved prediction robustness by combining quantile estimates.

研究の動機と目的

• 非定常的で裾の重い金融リターンを扱う従来の時系列モデルの限界を克服するため、数量回帰を用いた深層学習を活用すること。
• 長期間および空売りポジションの両方に対して、複数の分位数（例：0.25、0.5、0.75）を同時に推定することで、リターン分布のより正確なモデル化を図ること。
• 制約付き最適化を用いて分位数推定値を組み合わせることで、予測の頑健性を向上させること。
• 初級注文価格（第一レベルのBid/Ask）を中間価格の代わりに使用することで、日中取引戦略における現実的なリターン推定が可能になることを実証すること。

提案手法

• 原始的な10段階LOBデータ（1タイムステップあたり40特徴量）から特徴抽出を行うための共有畳み込み層を備えた深層ニューラルネットワークアーキテクチャであり、各分位数ごとに別々のLSTMブランチを設ける。
• 各LSTMブランチは、そのターゲット分位数（例：0.25、0.5、0.75）に特化した数量損失関数で訓練され、将来のリターンの条件付き分位数推定が可能になる。
• 時系列的依存性と注文書のダイナミクスを捉えるために、LOB更新のシーケンスを用いて100ステップ先のリターンを予測する。
• 予測誤差を最小化する最適な重み付けを行うために、制約付き最適化（式7）を用いた予測値の組み合わせ戦略を適用する。
• 5つのLSE銘柄の高頻度LOBデータを1年間分用いてモデルを学習し、6か月、3か月、3か月の期間をそれぞれ訓練・検証・テストに割り当てる。
• MAE、MSE、MeAE、R²スコアを用いて性能を評価し、ゼロインテリジェンス（繰り返し）ベースラインと正規化して比較する。

実験結果

リサーチクエスチョン

• RQ1 原始的なLOBデータを用いて、深層学習モデルが長期および空売りポジションの両方のリターン分位数を同時に推定可能か？
• RQ2 最適化を用いて分位数推定値を組み合わせることで、個別の分位数モデルに比べて予測性能が向上するか？
• RQ3 日中取引戦略における現実的な取引リターン推定において、中間価格の代わりに第一レベルのLOB価格（Bid/Ask）を使用することで、どのような差が生じるか？
• RQ4 予測ホライズンの延長に伴い（k=50, 100, 200）、モデルの性能はどのように低下するか？
• RQ5 高頻度金融市場において、深層学習フレームワークにおける数量回帰は、標準的なポイント推定モデルに比べ、より優れた頑健性と不確実性の定量化を提供できるか？

主な発見

• DeepLOB-QRは、長期ポジションのリターンにおいて、MAE（0.701）、MSE（0.462）、R²（0.010）の最低値を記録し、AR、GLR、SVR、MLPベースラインを上回った。
• 予測値の組み合わせを適用したバージョン、DeepLOB-QR(C)は、長期ポジションでR²を0.014、空売りポジションで0.015まで向上させ、より高い頑健性を示した。
• 100ステップ先の予測においても、MAEが0.701、MSEが0.461を維持し、予測ホライズンにわたる安定性を示した。
• 予測ホライズンが延びる（k=200）と性能が低下し、MAEは0.701に、MeAEは0.864に上昇した。これは不確実性の増加を示している。
• 図4に示される予測区間は、真のリターン分布を効果的に捉えており、0.25および0.75分位数が中央値の周囲に信頼性の高いバンドを形成していた。
• スプレッドの変化によって引き起こされるリターンダイナミクスの非対称性を踏まえ、長期および空売りポジションのリターンを別々にモデル化する必要があることが確認された。