[論文レビュー] Deep Autoassociative Neural Networks for Noise Reduction in Seismic data

Debjani Bhowmick, Deepak Gupta+2 more|arXiv (Cornell University)|May 1, 2018

Seismic Imaging and Inversion Techniques参考文献 1被引用数 4

ひとこと要約

この論文では、非一様で局所的なノイズを含む地震データのノイズ低減のため、深層自己符号化ニューラルネットワーク（autoNNs）を提案している。スタックド自己符号化器を活用して、非線形的かつスパースな表現を学習し、ノイズの多い入力を元のクリアな信号に再構築する。実験では合成データで90％を超えるノイズ低減効果を達成し、実際の地震データにおいても時間的・周波数的局所的ノイズを顕著に抑制したが、空間的分解能に若干のトレードオフが生じた。

ABSTRACT

Machine learning is currently a trending topic in various science and engineering disciplines, and the field of geophysics is no exception. With the advent of powerful computers, it is now possible to train the machine to learn complex patterns in the data, which may not be easily realized using the traditional methods. Among the various machine learning methods, the artificial neural networks (ANNs) have received enormous attention. A variant of ANNs, autoassociative neural network (autoNN) tries to learn the reconstruction of input itself using backpropagation. In an autoNN, the input and output are the same, and an approximation to the identity mapping is obtained in a nonlinear setting. AutoNNs have primarily been used to extract sparse internal representations of any input and reduce its dimensionality. In this paper, we explore the potential of autoNNs in reducing random noise in geophysical data. In this paper, the first results of this study are presented. The synthetic mathematical example demonstrates the concept of autoNN. For the test seismic data, it is observed that autoNN can significantly remove the vertical time- and frequency-local noise, however, the resolution of the output signal is compromised to a certain extent. Future work includes testing larger examples with several different types of noise, and using deep-stacked-autoNNs to further reduce the noise, ensuring minimal compromise with the resolution of the signal.

研究の動機と目的

• 非一様で局所的なノイズによって汚染された地震信号を対象とした、深層学習に基づくノイズ低減手法の開発。
• 従来の自己符号化ネットワークを深層アーキテクチャに拡張し、浅いネットワークを上回るノイズ低減性能を実現すること。
• 合成数学的信号および実際の地震データの両方に対して、深層autoNNの性能を評価すること。
• 地震データ修復におけるノイズ低減と信号分解能のトレードオフを調査すること。

提案手法

• ノイズの多い入力からクリアな出力への非線形写像を学習するため、3層の隠れ層（300-400-300ニューロン）を持つ深層自己符号化器アーキテクチャを採用している。
• エンコーダーは非線形活性化関数（例：シグモイド）を用いて、入力を次元を低減した潜在表現に圧縮する。デコーダーは元の信号を再構築する。
• 元の信号と再構築信号の平均二乗誤差を最小化するようにバックプロパゲーションを用いてネットワークを学習する。
• スタックド自己符号化器アプローチを採用し、全ネットワークのファインチューニングの前に、各層をグリーディに事前学習する。
• 学習用に、110万個の合成地震パッチ（9×42サンプル）を生成した。これらには、単一周波数の正弦波を含むクリア版とノイズ版が含まれる。
• 勾配降下法を用いて、50,000エポックの学習を実施し、95:5のトレーニング・バリデーション分割を採用した。

実験結果

リサーチクエスチョン

• RQ1 深層自己符号化ニューラルネットワークは、地震データにおける非一様的かつ時間的・周波数的局所的ノイズを効果的に低減できるか？
• RQ2 深層autoNNは、ノイズ低減タスクにおいて浅い自己符号化器と比較して、どの程度優れた性能を示すか？
• RQ3 ノイズ低減の過程で、自己符号化器は信号分解能をどの程度保持できるか？
• RQ4 トレーニングセットに含まれない未観測のノイズを含む地震トレースに対しても、自己符号化器は一般化できるか？

主な発見

• 合成信号の100サンプルのテストにおいて、深層autoNNは平均90.27％のノイズ低減効率を達成し、強力なノイズ低減能力を示した。
• 地震データにおいて、垂直方向の時間的・周波数的局所的ノイズが効果的に抑制され、データの解釈可能性が顕著に向上した。
• モデルは正則化効果を示し、特に高振幅イベントにおいて信号分解能がわずかに低下した。
• 高周波数ノイズ（110–220 Hz）に対しては優れた性能を示したが、低周波数および多周波数ノイズでは、トレーニングカバレッジの制限により困難を示した。
• スタックド自己符号化器アーキテクチャは浅いネットワークを上回り、複雑なノイズパターンを捉えるために深い表現が有効であることが示された。
• より深く、専用化されたアーキテクチャを用いることで、将来的に多様なノイズタイプへの適応が期待できる。