[論文レビュー] Machine Learning for Better Models for Predicting Bond Prices

Swetava Ganguli, Jared Dunnmon|arXiv (Cornell University)|Mar 31, 2017

Stock Market Forecasting Methods参考文献 1被引用数 10

ひとこと要約

本論文は、履歴取引データを用いたボンド価格予測のためのハイブリッド機械学習手法を提案する。教師あり学習モデルと時系列解析を組み合わせることで、精度と速度の両方を向上させる。価格差分から導出されるARMA(1,1)ベースの特徴量を統合することで、モデル性能が顕著に向上することが示された。ニューラルネットワークと一般化線形モデルが、速度と精度のバランスを最も良く達成し、2時間未満でテスト誤差を73¢まで低下させた。

ABSTRACT

Bond prices are a reflection of extremely complex market interactions and policies, making prediction of future prices difficult. This task becomes even more challenging due to the dearth of relevant information, and accuracy is not the only consideration--in trading situations, time is of the essence. Thus, machine learning in the context of bond price predictions should be both fast and accurate. In this course project, we use a dataset describing the previous 10 trades of a large number of bonds among other relevant descriptive metrics to predict future bond prices. Each of 762,678 bonds in the dataset is described by a total of 61 attributes, including a ground truth trade price. We evaluate the performance of various supervised learning algorithms for regression followed by ensemble methods, with feature and model selection considerations being treated in detail. We further evaluate all methods on both accuracy and speed. Finally, we propose a novel hybrid time-series aided machine learning method that could be applied to such datasets in future work.

研究の動機と目的

• 限られた取引データと遅延する市場データの下でも、最新のボンド価格を予測する課題に対処すること。
• リアルタイム取引環境で動作可能な高速かつ高精度な機械学習モデルを開発すること。
• 時系列解析を従来の教師あり学習手法と統合することで、予測性能を向上させること。
• 多様なアルゴリズムを対象に、モデルの精度と計算効率のトレードオフを評価すること。
• 深層学習とアンサンブル手法が、高次元金融予測タスクにおいて果たす可能性を調査すること。

提案手法

• 本研究では、歴史的取引価格とカーブベースの推定値を含む61の属性を持つ762,678件のボンドデータセットを用いた。
• 次元削減のため、主成分分析（PCA）や相関分析を用いた特徴選択技術を適用し、関連する予測変数を同定した。
• 一般化線形モデル（GLMs）、回帰木、サポートベクターレグレッション（SVR）、アンサンブル手法（バギング、LS-Boosting、ランダムフォレスト）を評価し、回帰性能を検証した。
• 本研究で提唱する新規ハイブリッド手法は、各ボンドタイプについて取引価格とカーブ価格の差分にARMA(1,1)モデルを適合させ、1ステップ先の予測値を新たな特徴量としてGLMモデルに組み込むものである。
• 非線形適合能力を評価するため、1層の隠れ層とLevenberg-Marquardt最適化を用いたニューラルネットワークを訓練した。
• モデルの性能は、精度（テスト誤差）と学習時間の両方で評価され、スタンフォードの高性能コンピューティングクラスタ上で結果が報告された。

実験結果

リサーチクエスチョン

• RQ1 価格差分の時系列モデリングが、従来の回帰モデルの予測力にどのように寄与するか？
• RQ2 高次元ボンド価格予測において、さまざまな機械学習アルゴリズムは、精度と計算効率の観点でどのように比較されるか？
• RQ3 ARMAベースの予測値を用いた特徴量拡張が、モデルの汎化性能向上と誤差低減に顕著な効果をもたらすか？
• RQ4 この金融データセットにおいて、ニューラルネットワークは古典的モデルをどれほど上回る精度と学習時間を達成できるか？
• RQ5 大規模なデータセットと高い計算コストを考慮すると、アンサンブル手法は個々のモデルを上回る性能を顕著に向上させ得るか？

主な発見

• ARMA(1,1)ベースの特徴量を組み込むことで、ボンドIDのみを用いた場合と比較し、テスト誤差が2.3¢改善された。これは、時系列特徴量が独自の説明力を持つことを示している。
• 一般化線形モデル（GLMs）は、最小限の計算コストで優れた性能を発揮し、単一ノードで数秒で処理を完了した。
• 2層のニューラルネットワークは、約2時間でテスト誤差を73¢まで低下させ、高い精度と妥当な学習時間を両立した。
• ランダムフォレストやLS-Boostingといったアンサンブル手法は、性能向上が顕著ではなく、著しい計算リソースを要した。
• ARMA予測値を特徴量として用いるハイブリッドアプローチにより、学習誤差とテスト誤差の両方が改善され、動的価格行動を捉える有効性が確認された。
• ニューラルネットワークとGLMsを組み合わせることで、速度と精度の最良のトレードオフが達成され、リアルタイム取引応用に最も適していることが示された。