[論文レビュー] Visual Attention Model for Cross-sectional Stock Return Prediction and End-to-End Multimodal Market Representation Learning

Ran Zhao, Yuntian Deng+4 more|arXiv (Cornell University)|Sep 11, 2018

Stock Market Forecasting Methods被引用数 8

ひとこと要約

本稿では、株式市場を『マーケット画像』—すなわち、銘柄（行）と財務指標（列）からなる2次元行列—として表現する視覚的アテンションモデルを提案する。これにより、マルチモーダルな市場表現のエンドツーエンド学習が可能になる。畳み込みニューラルネットワーク（CNN）と再帰ニューラルネットワーク（RNN）を用い、アテンション機構を組み合わせることで、クロスセクションの株式リターン予測性能が向上し、元のマーケット画像を高精度に再構成可能なコン pact な市場埋め込み表現を学習する。PCA よりも再構成精度が優れている。

ABSTRACT

Technical and fundamental analysis are traditional tools used to analyze individual stocks; however, the finance literature has shown that the price movement of each individual stock correlates heavily with other stocks, especially those within the same sector. In this paper we propose a general purpose market representation that incorporates fundamental and technical indicators and relationships between individual stocks. We treat the daily stock market as a "market image" where rows (grouped by market sector) represent individual stocks and columns represent indicators. We apply a convolutional neural network over this market image to build market features in a hierarchical way. We use a recurrent neural network, with an attention mechanism over the market feature maps, to model temporal dynamics in the market. We show that our proposed model outperforms strong baselines in both short-term and long-term stock return prediction tasks. We also show another use for our market image: to construct concise and dense market embeddings suitable for downstream prediction tasks.

研究の動機と目的

• ファンドアメンタル、テクニカル、マーケット構造の情報を統合した汎用的市場表現を開発し、株式リターン予測の精度を向上させること。
• 階層的なマーケット特徴マップに対するアテンションを備えた再帰ニューラルネットワーク（RNN）を用いて、金融市場の時間的ダイナミクスをモデル化すること。
• 畳み込みオートエンコーダーを用いて、入力マーケット画像の忠実度を保ちつつ、汎用的で密な、かつコン pact なマーケット埋め込みを学習すること。
• 生のマーケット画像からエンドツーエンドで学習することで、従来の手作業による特徴量とPCAよりも、予測および表現タスクの両方で優れた性能を示すことを実証すること。

提案手法

• 銘柄をセクターごとにグループ化した行と、ファンドアメンタル、テクニカル、価格・出来高指標を列に持つ m×n 行列として『マーケット画像』を構築する。
• 畳み込みニューラルネットワーク（CNN）を適用し、マーケット画像から階層的な空間的特徴を抽出することで、同じセクターに属する銘柄間の関係を捉える。
• 時系列にわたる複数のマーケット画像をスタックし、CNN の特徴マップに対してアテンション機構を備えた再帰ニューラルネットワーク（RNN）を用いて、時間的ダイナミクスをモデル化する。
• エンコーダ・デコーダ構造を有する完全畳み込みオートエンコーダー（MarketSegNet）を実装し、元のマーケット画像をピクセル単位で再構成可能なコン pact で密なマーケット埋め込みを学習する。
• ピクセル単位の回帰損失を用いてオートエンコーダーを訓練することで、入力マーケット画像の高忠実度再構成を保証する。
• 埋め込み次元数を16から128まで変化させた際の、MarketSegNet と PCA の再構成性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 市場を画像として扱う視覚的アテンションモデルは、ベースラインモデルと比較して、クロスセクションの株式リターン予測を改善できるか？
• RQ2 ファンドアメンタル、テクニカル、マーケット構造情報の統合は、統一されたマルチモーダル表現として株式予測にどの程度有効か？
• RQ3 畳み込みオートエンコーダーは、PCA よりも情報保持度が高い汎用的かつコン pact なマーケット埋め込みを学習できるか？
• RQ4 階層的なマーケット特徴に対するアテンションは、株式リターンの時間的モデリングを向上させるか？
• RQ5 学習されたマーケット埋め込みは、どの程度の忠実度で元のマーケット画像を再構成できるか？

主な発見

• アテンションベースの RNN を備えた本稿で提案するマーケットに適応したモデルは、短期および長期の両方の株式リターン予測タスクで、強力なベースラインを上回る性能を示した。
• MarketSegNet オートエンコーダーは、全テスト対象の埋め込み次元数（16～128）において、PCA よりも低い再構成誤差を達成しており、情報保持度の優位性を示した。
• MarketSegNet が学習した埋め込み表現は、マーケット画像内の空間的および時間的パターンを保持しており、高忠実度のピクセル単位再構成を可能にした。
• CNN を用いた階層的特徴学習により、セクター単位のトレンドや銘柄間の関係が効果的に捉えられた。
• RNN 内のアテンション機構により、時間経過に伴い重要なマーケット特徴を動的に重み付けし、時間的モデリングの精度が向上した。
• 本モデルは、生のマーケット画像からエンドツーエンドで学習することで、従来の次元削減手法（PCA など）よりも、予測および表現の両面で優れた性能を発揮することを示した。