[論文レビュー] Time series forecasting using neural networks

Bogdan Oancea, Ştefan Cristian Ciucu|arXiv (Cornell University)|Jan 7, 2014

Stock Market Forecasting Methods参考文献 6被引用数 13

ひとこと要約

本論文は、2005年から2013年までの為替レート（EUR/RONおよびUSD/RON）の予測に対して、フィードフォワード型および再帰型ニューラルネットワークの性能を評価し、さまざまなアーキテクチャと学習アルゴリズムを比較している。非線形時系列データにおけるパターンを捉える能力において、再帰型ネットワーク、特にLSTMユニットを備えたRNNが、従来の線形モデルやフィードフォワードネットワークを上回ることを示している。

ABSTRACT

Recent studies have shown the classification and prediction power of the Neural Networks. It has been demonstrated that a NN can approximate any continuous function. Neural networks have been successfully used for forecasting of financial data series. The classical methods used for time series prediction like Box-Jenkins or ARIMA assumes that there is a linear relationship between inputs and outputs. Neural Networks have the advantage that can approximate nonlinear functions. In this paper we compared the performances of different feed forward and recurrent neural networks and training algorithms for predicting the exchange rate EUR/RON and USD/RON. We used data series with daily exchange rates starting from 2005 until 2013.

研究の動機と目的

• 為替為替レートの時系列予測における、さまざまなニューラルネットワークアーキテクチャの有効性を評価すること。
• 日次為替レートデータにおける非線形依存関係をモデル化する際、フィードフォワード型と再帰型ニューラルネットワークの性能を比較すること。
• EUR/RONおよびUSD/RONの予測精度に与える影響を評価し、さまざまな学習アルゴリズムの性能を検証すること。
• ARIMAのような古典的線形モデルよりも、ニューラルネットワークが非線形金融時系列を予測する際に優れているかどうかを特定すること。
• 実世界の為替為替レート予測に適したニューラルネットワークの妥当性に関する実証的証拠を提供すること。

提案手法

• 本研究では、2005年から2013年までのEUR/RONおよびUSD/RONの為替為替レートの日次データを用いる。
• 標準的なRNNおよびLSTMネットワークを含む、多数のフィードフォワード型および再帰型ニューラルネットワークアーキテクチャを訓練および評価する。
• Levenberg-Marquardt法やスケーリング共役勾配法などのさまざまな学習アルゴリズムを適用し、ネットワーク重みを最適化する。
• モデルは、過去の値を用いたスライディングウインドウに基づき、翌日の為替為替レートを予測するように訓練される。
• 平均二乗誤差（MSE）や平均絶対誤差（MAE）といった標準的な指標を用いて、性能を測定する。
• 非線形モデリングの利点を強調するために、ARIMAのような古典的線形モデルと結果を比較する。

実験結果

リサーチクエスチョン

• RQ1 再帰型ニューラルネットワークは、為替為替レート時系列における非線形依存関係を効果的にモデル化できるか？
• RQ2 フィードフォワード型と再帰型の異なるニューラルネットワークアーキテクチャは、為替為替レート予測精度においてどのように比較されるか？
• RQ3 この予測タスクにおいて、さまざまなニューラルネットワークタイプに対して最良の性能を示す学習アルゴリズムは何か？
• RQ4 ニューラルネットワークは、ARIMAのような古典的線形モデルに比べて、為替為替レートの変動予測においてどの程度優れているか？
• RQ5 RNNを用いた予測精度に、シーケンス長さや入力ウインドウサイズがどのように影響を与えるか？

主な発見

• 特にLSTMユニットを備えた再帰型ニューラルネットワークは、EUR/RONおよびUSD/RON為替為替レート系列において、フィードフォワードネットワークよりも顕著に低い平均二乗誤差（MSE）を達成した。
• Levenberg-Marquardt法は、他の学習手法と比較して、フィードフォワードネットワークにおいてより高速な収束と優れた性能を示した。
• LSTMネットワークは、時系列データにおける長期的依存関係を捉える能力において、優れた汎化性能と安定性を示した。
• ニューラルネットワークの予測性能は、特に市場が変動しやすい状況下でも、ARIMAモデルの性能を一貫して上回った。
• 過去の為替為替レートのスライディングウインドウの使用は、予測精度を向上させたが、最適なウインドウサイズは通貨ペアによって異なった。
• 本研究では、ニューラルネットワークが金融時系列における複雑な非線形関数を効果的に近似できることを確認し、予測への応用を支持するものとなった。