[論文レビュー] Advanced Deep Regression Models for Forecasting Time Series Oil Production

Siavash Hosseini, Thangarajah Akilan|arXiv (Cornell University)|Aug 30, 2023

Reservoir Engineering and Simulation MethodsEngineering被引用数 3

ひとこと要約

本論文では、ヴォルベ油田における時系列原油生産予測のための1次元畳み込みニューラルネットワーク（1D-CNN）とLSTMアーキテクチャを組み合わせたディープラーニングフレームワークを提案する。LSTMモデルは線形回帰ベースラインに対して37%の性能向上を達成し、MAEが111.16、R²が0.98を記録した。これは、より優れた系列モデリングとパラメータ数の削減により、優れた精度と効率性を示している。

ABSTRACT

Global oil demand is rapidly increasing and is expected to reach 106.3 million barrels per day by 2040. Thus, it is vital for hydrocarbon extraction industries to forecast their production to optimize their operations and avoid losses. Big companies have realized that exploiting the power of deep learning (DL) and the massive amount of data from various oil wells for this purpose can save a lot of operational costs and reduce unwanted environmental impacts. In this direction, researchers have proposed models using conventional machine learning (ML) techniques for oil production forecasting. However, these techniques are inappropriate for this problem as they can not capture historical patterns found in time series data, resulting in inaccurate predictions. This research aims to overcome these issues by developing advanced data-driven regression models using sequential convolutions and long short-term memory (LSTM) units. Exhaustive analyses are conducted to select the optimal sequence length, model hyperparameters, and cross-well dataset formation to build highly generalized robust models. A comprehensive experimental study on Volve oilfield data validates the proposed models. It reveals that the LSTM-based sequence learning model can predict oil production better than the 1-D convolutional neural network (CNN) with mean absolute error (MAE) and R2 score of 111.16 and 0.98, respectively. It is also found that the LSTM-based model performs better than all the existing state-of-the-art solutions and achieves a 37% improvement compared to a standard linear regression, which is considered the baseline model in this work.

研究の動機と目的

• 従来の機械学習モデルが原油生産時系列データの複雑な時間的パターンを捉えきれていないという限界を是正すること。
• 複数の井戸からの時系列データを用いて、高精度な予測が可能な耐障害性・汎用性の高いディープラーニングモデルの開発。
• ハイパーパrameter、系列長、跨井戦データ統合の最適化を通じて、汎用性と性能の向上を図ること。
• 予測精度と計算効率の両面で、既存の最先端モデルを上回ること。

提案手法

• 時系列原油生産データ内の時間的依存関係を学習するため、1D-CNNおよびLSTMベースのディープラーニング回帰モデルを採用した。
• 欠損値の処理、ドメインエキスパートによる特徴選択、データスケーリングを含む包括的なデータ前処理を実施した。
• 汎用性を高めるために、最適な系列長および跨井戦データセット構成を特定するための体系的分析を実施した。
• 複数のテスト井戦での検証を基に、体系的なアブレーションスタディを通じてハイパーパrameterを最適化した。
• モデルの性能と効率性を評価するために、平均絶対誤差（MAE）、決定係数（R²）、FLOPsを用いた。
• ヴォルベ油田全体の一般化を可能にするために、全5井戦のデータを用いてモデルを訓練した。

実験結果

リサーチクエスチョン

• RQ1 LSTMベースのモデルは、1D-CNNおよび従来の機械学習モデルに比べ、原油生産時系列予測において優れた性能を示せるか？
• RQ2 正確で汎用性の高い原油生産予測のための最適な系列長およびハイパーパrameter設定は何か？
• RQ3 本モデルは、既存の最先端モデルと比較して、予測精度と計算効率の両面で優れているか？
• RQ4 複数の井戦のデータを用いて学習した1つのモデルが、同じ油田内での未観測井戦にどれほど一般化できるか？
• RQ5 多様な井戦データの統合は、予測の頑健性と一般化性能を向上させられるか？

主な発見

• 提案されたLSTMベースのモデルは、グローバルテストセットにおいて平均絶対誤差（MAE）が111.16、決定係数（R²）が0.98を達成し、すべてのベースラインおよび最先端モデルを上回った。
• LSTMモデルは、標準の線形回帰ベースラインと比較して、37%の予測精度の向上を達成した。
• LSTMモデルは、1D-CNNモデルと比較して、トレーニング可能なパラメータ数を約45%削減し、FLOPsはわずか2%にまで抑えた。これは、優れた計算効率性を示している。
• 1D-CNNモデルは、MAEが151.64、R²が0.96を記録し、線形回帰より顕著な改善を示したが、LSTMモデルに劣っていた。
• リソース制限のあるプラットフォームではモデル2（LSTM）が最適であり、予測精度が極めて重要な状況ではモデル3（LSTM）が好ましい。
• 定性的な分析により、両モデルが全5井戦において実際の生産トレンドをよく再現していることが確認され、予測の信頼性が裏付けられた。