[論文レビュー] Multi-modal Attention Network for Stock Movements Prediction

Shwai He, Shi Gu|arXiv (Cornell University)|Dec 27, 2021

Stock Market Forecasting Methods被引用数 5

ひとこと要約

本稿では、信頼性を考慮したアテンションメカニズムを用いてソーシャルメディアのセンチメントと歴史的株価データを統合するマルチモーダルアテンションネットワーク（MMAN）を提案する。テキスト的意味と数値的トレンドをインターアテンションとイントラアテンションを用いて統合することで、61.20%の正確性と9.13%のバーチャルトレーディング利益を達成し、先行手法を上回る性能を示した。

ABSTRACT

Stock prices move as piece-wise trending fluctuation rather than a purely random walk. Traditionally, the prediction of future stock movements is based on the historical trading record. Nowadays, with the development of social media, many active participants in the market choose to publicize their strategies, which provides a window to glimpse over the whole market's attitude towards future movements by extracting the semantics behind social media. However, social media contains conflicting information and cannot replace historical records completely. In this work, we propose a multi-modality attention network to reduce conflicts and integrate semantic and numeric features to predict future stock movements comprehensively. Specifically, we first extract semantic information from social media and estimate their credibility based on posters' identity and public reputation. Then we incorporate the semantic from online posts and numeric features from historical records to make the trading strategy. Experimental results show that our approach outperforms previous methods by a significant margin in both prediction accuracy (61.20\%) and trading profits (9.13\%). It demonstrates that our method improves the performance of stock movements prediction and informs future research on multi-modality fusion towards stock prediction.

研究の動機と目的

• 異種のデータソース（ソーシャルメディアのテキストと歴史的株価時系列）を統合することで、株価動向予測を改善すること。
• ソーシャルメディアにおける矛盾した信頼性の低い情報に対処するため、投稿者の信頼性と評判をアテンション機構に組み込むこと。
• 新しいアテンションベースのアーキテクチャを用いて、意味的モダリティと数値的モダリティの効果的な統合により、予測性能を向上させること。
• 最先端のベースラインと比較して、分類正確性とシミュレートされたトレーディングパフォーマンスの両面でモデルの優位性を検証すること。

提案手法

• モデルは、BERTベースのエンコーダーを用いて金融フォーラム投稿から意味特徴を抽出し、投稿者IDと公開された評判を用いて信頼性を推定する。
• インターアテンションとイントラアテンションを用いて、テキスト的意味を歴史的株価トレンド（日次終値）と動的に重み付け統合する。
• 信頼性スコアをアテンション重みとして用い、特徴統合の過程で信頼できるソーシャルメディアコンテンツを優先する。
• 統合モジュールは、両モダリティからの補完的信号を捉えた統合表現を生成し、最終予測に用いる。
• 分類ヘッドを用いて株価の方向（上昇／下落）を予測し、交差エントロピー損失を用いてエンドツーエンドで訓練する。
• バーチャルトレーディングシミュレーションを用いて、モデルの予測に基づく戦略による実世界のパフォーマンスを評価する。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルメディアのセンチメントと歴史的株価データを統合することで、単一モダリティモデルを上回る株価動向予測の正確性が向上するか？
• RQ2 ソーシャルメディア投稿者の信頼性を、信頼性の低いコンテンツに起因するノイズを低減するアテンション機構に効果的に統合できるか？
• RQ3 インターアテンションとイントラアテンションを用いたマルチモーダル統合は、モダリティ固有または早期統合のベースラインを上回るパフォーマンスを達成するか？
• RQ4 提案手法は、分類正確性とシミュレートされたトレーディング利益の両面で、最先端の手法をどの程度上回るか？

主な発見

• 提案されたMMANモデルは61.20%の予測正確性を達成し、次に優れたベースライン（CapTE）の59.87%を顕著に上回った。
• モデルはマシューズ相関係数（MCC）を0.1193を達成し、予測と実際の株価動向の間に強い相関があることを示した。
• バーチャルトレーディングシミュレーションにおいて、MMANは業界全体で合計913.2ドルの利益を達成し、CapTEの752.2ドルとマーケットベンチマークを上回った。
• 小売業界では12.4%のリターンを達成し、多様な市場環境下でも高い頑健性を示した。
• クラスアクティビティマップによる可視化により、モデルがテキスト的特徴と価格特徴の異なる補完的領域に注目していることが確認され、マルチモーダル仮説の妥当性が裏付けられた。
• アブレーションスタディの結果、信頼性スコアやアテンション機構を除去すると性能が低下し、これらがモデル効果性の中心的役割を果たしていることが確認された。