[論文レビュー] Deep learning tutorial for denoising.

Siwei Yu, Jianwei Ma+1 more|arXiv (Cornell University)|Oct 27, 2018

Seismic Imaging and Inversion Techniques参考文献 43被引用数 6

ひとこと要約

この論文では、合成データセットにノイズを追加したり波動方程式によって生成された多重波を用いてトレーニングされた畳み込みニューラルネットワーク（CNN）を用いた、地震データ向けの深層学習ベースのノイズ除去手法を提案している。本手法は、正確な信号モデルを必要とせず、パラメータを手動で調整する必要がないため、適応的かつパラメータフリーなノイズ低減を実現しており、GPUアクセラレーションを用いることで$f$-$x$デコンボリューションと同等の性能を達成し、合成データおよび実データにおいて優れた結果を示している。

ABSTRACT

We herein introduce deep learning to seismic noise attenuation. Compared with traditional seismic noise attenuation algorithms that depend on signal models and their corresponding prior assumptions, a deep neural network is trained based on a large training set, where the inputs are the raw datasets and the corresponding outputs are the desired clean data. After the completion of training, the deep learning method achieves adaptive denoising with no requirements of (i) accurate modeling of the signal and noise, and (ii) optimal parameters tuning. We call this intelligent denoising. We use a convolutional neural network as the basic tool for deep learning. The training set is generated with manually added noise in random and linear noise attenuation, and with the wave equation in the multiple attenuation. Stochastic gradient descent is used to solve the optimal parameters for the convolutional neural network. The runtime of deep learning on a graphics processing unit for denoising has the same order as the $f-x$ deconvolutional method. Synthetic and field results show the potential applications of deep learning in the automation of random noise attenuation with unknown variance, linear noise, and multiples.

研究の動機と目的

• 正確な信号およびノイズモデルと手動によるパrameterチューニングに依存する従来の地震ノイズ低減手法の限界を克服すること。
• ランダムノイズ、線形ノイズ、多重波の低減を自動的かつデータ駆動型のアプローチで実現すること。
• 大規模なトレーニングデータセットから直接、複雑なノイズパターンを事前の仮定なしに学習することにより、深層学習を活用すること。
• 最適なパrameter選択の必要がないものの、実行時間において従来の$f$-$x$デコンボリューションと同等のノイズ低減性能を達成すること。

提案手法

• 大規模な合成トレーニングセットを用いて、入力としてのノイズ混在地震データから出力としてのクリアな地震データへのマッピングを学習する畳み込みニューラルネットワーク（CNN）をトレーニングする。
• トレーニングセットは、ランダムノイズ低減のためのクリアな地震トレースへのランダムノイズの注入、および波動方程式を用いた多重波のシミュレーションによって生成される。
• 予測値とターゲットのクリアデータの差を最小化するように、トレーニング中に確率的勾配降下法（SGD）を用いてCNNのパラメータを最適化する。
• 信号またはノイズの特性を明示的にモデル化する必要がないため、多様なノイズタイプにわたる適応的ノイズ低減が可能である。
• 推論処理はグラフィカルプロセッシングユニット（GPU）を用いて高速化され、$f$-$x$デコンボリューション手法と同等の実行時間性能を達成している。
• 一般化性能とロバストネスを評価するために、本手法は合成データおよび実際のフィールドデータに適用されている。

実験結果

リサーチクエスチョン

• RQ1 明示的な信号またはノイズモデルに依存せずに、深層学習モデルが地震データのノイズ除去を効果的に学習できるか。
• RQ2 GPU上で実行された場合、提案されたCNNベースのノイズ低減手法は、実行時間およびノイズ低減品質の面で従来の$f$-$x$デコンボリューションと比べてどの程度の性能を示すか。
• RQ3 トレーニング済みのネットワークが、ランダムノイズ、線形ノイズ、多重波を含むさまざまなノイズタイプにどの程度一般化できるか。
• RQ4 ノイズ分散に関する事前仮定や手動によるパrameterチューニングなしに、本手法が効果的なノイズ低減を達成できるか。

主な発見

• GPU上で実行された深層学習ベースのノイズ低減手法は、実行時間において$f$-$x$デコンボリューション手法と同等の性能を達成している。
• 本手法は、合成データおよびフィールドデータの両方において、ランダムノイズ、線形ノイズ、多重波の低減に成功しており、正確な信号またはノイズモデルの必要がない。
• 本手法は、手動によるパrameterチューニングやノイズ特性に関する事前仮定の必要がないため、適応的ノイズ低減が可能である。
• CNNベースの手法は、未観測のフィールドデータに対しても良好に一般化され、地震データ処理パイプラインにおける自動化の強力な可能性を示している。
• 制御されたノイズ注入と波動方程式に基づく多重波生成を伴う合成トレーニングデータの使用により、複雑なノイズパターンの効果的学習が可能になった。
• 結果から、深層学習が地震応用分野における従来のモデル依存型ノイズ低減技術の代替として、強固で知的な手法として機能できることを確認した。