[论文解读] Advanced Deep Regression Models for Forecasting Time Series Oil Production

Siavash Hosseini, Thangarajah Akilan|arXiv (Cornell University)|Aug 30, 2023

Reservoir Engineering and Simulation MethodsEngineering被引用 3

一句话总结

本文提出了一种基于一维卷积神经网络（1D-CNN）和长短期记忆网络（LSTM）架构的深度学习框架，用于伏洛夫油田的时序原油产量预测。LSTM模型相较于线性回归基线模型实现了37%的性能提升，平均绝对误差（MAE）为111.16，决定系数（R²）为0.98，表明其在序列建模能力与参数量减少方面具有更优的准确性与效率，优于1D-CNN模型。

ABSTRACT

Global oil demand is rapidly increasing and is expected to reach 106.3 million barrels per day by 2040. Thus, it is vital for hydrocarbon extraction industries to forecast their production to optimize their operations and avoid losses. Big companies have realized that exploiting the power of deep learning (DL) and the massive amount of data from various oil wells for this purpose can save a lot of operational costs and reduce unwanted environmental impacts. In this direction, researchers have proposed models using conventional machine learning (ML) techniques for oil production forecasting. However, these techniques are inappropriate for this problem as they can not capture historical patterns found in time series data, resulting in inaccurate predictions. This research aims to overcome these issues by developing advanced data-driven regression models using sequential convolutions and long short-term memory (LSTM) units. Exhaustive analyses are conducted to select the optimal sequence length, model hyperparameters, and cross-well dataset formation to build highly generalized robust models. A comprehensive experimental study on Volve oilfield data validates the proposed models. It reveals that the LSTM-based sequence learning model can predict oil production better than the 1-D convolutional neural network (CNN) with mean absolute error (MAE) and R2 score of 111.16 and 0.98, respectively. It is also found that the LSTM-based model performs better than all the existing state-of-the-art solutions and achieves a 37% improvement compared to a standard linear regression, which is considered the baseline model in this work.

研究动机与目标

• 为解决传统机器学习模型在捕捉原油产量时序数据中复杂时间模式方面的局限性。
• 开发鲁棒且可泛化的深度学习模型，利用多口井的序列数据实现高精度预测。
• 通过优化超参数、序列长度以及跨井数据融合策略，提升模型的泛化能力与性能表现。
• 在预测精度与计算效率方面超越现有最先进模型。

提出的方法

• 采用基于1D-CNN与LSTM的深度回归模型，学习序列化原油产量数据中的时间依赖关系。
• 实施全面的数据预处理，包括缺失值处理、基于领域知识的特征选择以及数据标准化。
• 通过系统性分析确定最优序列长度与跨井数据集构建方式，以提升泛化能力。
• 通过全面的消融实验与多口测试井的验证，完成超参数优化。
• 采用平均绝对误差（MAE）、决定系数（R²）以及浮点运算次数（FLOPs）评估模型性能与效率。
• 在全部五口井的数据上进行模型训练，以实现对伏洛夫油田的泛化能力。

实验结果

研究问题

• RQ1 基于LSTM的模型是否能在原油产量时序预测中超越1D-CNN与传统机器学习模型？
• RQ2 实现高精度与良好泛化能力的原油产量预测，最优序列长度与超参数配置为何？
• RQ3 与现有最先进模型相比，所提出模型在预测精度与计算效率方面表现如何？
• RQ4 在相同油田中，单一模型若基于多口井数据进行训练，其对未见井的泛化能力达到何种程度？
• RQ5 整合多样化井数据是否能提升预测的鲁棒性与泛化能力？

主要发现

• 所提出的基于LSTM的模型在全局测试集上实现了111.16的平均绝对误差（MAE）与0.98的决定系数（R²），优于所有基线模型与最先进模型。
• 与标准线性回归基线相比，LSTM模型在预测精度上实现了37%的提升。
• 与1D-CNN模型相比，LSTM模型的可训练参数量减少了约45%，浮点运算次数（FLOPs）仅为其2%，表明其具有更高的计算效率。
• 1D-CNN模型实现了151.64的MAE与0.96的R²，相较于线性回归有显著改进，但低于LSTM模型。
• 模型2（LSTM）适用于资源受限平台，而模型3（LSTM）在需要高预测精度时更具优势。
• 定性分析表明，两种模型在全部五口测试井中均能紧密跟踪实际产量趋势，验证了其预测可靠性。