[論文レビュー] TI-Capsule: Capsule Network for Stock Exchange Prediction

Ramin Mousa, Sara Nazari+4 more|arXiv (Cornell University)|Feb 15, 2021

Stock Market Forecasting Methods参考文献 42被引用数 6

ひとこと要約

本論文では、為替為替レートの変動を予測するために、財務テキストのセンチメントとローソク足チャート画像を統合するマルチモーダルキャプセルネットワーク「TI-Capsule」を提案する。キャプセルネットワークにおける注目メカニズムとダイナミックルーティングを活用することで、空間的関係性と特徴の階層的構造を保持し、カスタムデータセット上で91%の精度を達成した。これは、従来のモデルよりも株式予測タスクで優れた性能を示した。

ABSTRACT

Today, the use of social networking data has attracted a lot of academic and commercial attention in predicting the stock market. In most studies in this area, the sentiment analysis of the content of user posts on social networks is used to predict market fluctuations. Predicting stock marketing is challenging because of the variables involved. In the short run, the market behaves like a voting machine, but in the long run, it acts like a weighing machine. The purpose of this study is to predict EUR/USD stock behavior using Capsule Network on finance texts and Candlestick images. One of the most important features of Capsule Network is the maintenance of features in a vector, which also takes into account the space between features. The proposed model, TI-Capsule (Text and Image information based Capsule Neural Network), is trained with both the text and image information simultaneously. Extensive experiments carried on the collected dataset have demonstrated the effectiveness of TI-Capsule in solving the stock exchange prediction problem with 91% accuracy.

研究の動機と目的

• マルチモーダルデータ（財務テキストとローソク足画像）を統合した1つのディープラーニングフレームワークを用いて、為替レート予測の精度を向上させること。
• 従来のモデルが、金融時系列データおよびテキストセンチメントにおける階層的空間的関係性と動的特徴相互作用を捉えることの限界を是正すること。
• キャプセルネットワークが、ベクトル表現を通じて空間的関係性と注目を維持する能力を有するかどうか、特に金融予測分野における有効性を検証すること。
• 外国為替市場におけるテキストセンチメントと視覚的価格パターンの両方から同時に学習する統合アーキテクチャの開発

提案手法

• TI-Capsuleモデルは、二重ブランチエンコーダーを採用：一方のブランチは、センチメント分析のためのBERTベースの埋め込みを用いて財務テキストを処理し、もう一方のブランチは畳み込み層を用いてローソク足画像を処理する。
• キャプセルネットワークを用いて、テキストおよび視覚的特徴を空間的関係性と注目ダイナミクスを保持するベクトル表現に変換する。
• ダイナミックルーティングを用いて、層間のキャプセルをルーティングすることで、モダリティ固有の表現間で階層的注目と特徴関係を学習可能にする。
• 最終分類の前に、テキストブランチと画像ブランチの出力ベクトルをラテナル融合戦略で統合し、マージン損失関数を用いて学習する。
• 本モデルは、ソーシャルメディアのセンチメントと歴史的ローソク足パターンを含む、EUR/USD市場データのカスタムデータセット上でエンドツーエンドで訓練される。
• 注目メカニズムが、テキストおよび画像モダリティ両方の顕著な特徴に焦点を当てるように、キャプセルルーティングプロセスに統合される。

実験結果

リサーチクエスチョン

• RQ1 キャプセルネットワークは、テキストセンチメントと視覚的価格パターンというマルチモーダル金融データを効果的に統合し、株式予測の精度を向上させることができるか？
• RQ2 キャプセルネットワークが空間的関係性と特徴の階層的構造を維持する能力は、従来のRNNやCNNと比較して、予測性能をどのように向上させるか？
• RQ3 テキストと画像モダリティからの共同学習は、為替為替レートの方向予測において、どれほど精度を向上させるか？
• RQ4 キャプセル内のダイナミックルーティングとベクトルベースの表現が、変動が激しい金融市場において、より強固で汎用性の高い予測を可能にするか？

主な発見

• TI-Capsuleモデルは、EUR/USD為替為替レートの方向性予測において91%の予測精度を達成し、ベースラインモデルを著しく上回った。
• テキストと画像の両モダリティを統合した結果、単一のテキストまたは画像入力のみを使用するモデルと比較して、精度が12%向上した。
• キャプセルネットワークは、空間的関係性と階層的層間の動的注目を維持することで、優れた特徴表現を示した。
• モデルのダイナミックルーティング機構は、金融データにおける長距離依存関係と注目パターンを効果的に捉え、一般化性能を向上させた。
• アブレーションスタディの結果、テキストブランチと画像ブランチの両方が最終予測に顕著な貢献を示し、画像ブランチの影響がわずかに高いことが確認された。
• ノイズの多い入力に対してもモデルは頑健であり、異なるセンチメントや価格パターンの条件下でも高い性能を維持した。