[論文レビュー] Low-Dose CT Image Denoising Using Parallel-Clone Networks

Siqi Li, Guobao Wang|arXiv (Cornell University)|May 14, 2020

Medical Imaging Techniques and Applications参考文献 30被引用数 11

ひとこと要約

本稿では、並列入力供給、並列出力損失計算、およびクローン間特徴量転送を可能にすることで、学習効率と画像品質を向上させる並列クローンニューラルネットワーク（PCN）を低線量CT（LDCT）画像のノイズ除去に提案する。この手法は、マヨLDCTデータセットで45.78のPSNRを達成し、DnCNN、RED-CNN、MAP-NNといった既存モデルを上回る最先端の性能を発揮しながら、同等または低減されたモデル複雑度を維持している。

ABSTRACT

Deep neural networks have a great potential to improve image denoising in low-dose computed tomography (LDCT). Popular ways to increase the network capacity include adding more layers or repeating a modularized clone model in a sequence. In such sequential architectures, the noisy input image and end output image are commonly used only once in the training model, which however limits the overall learning performance. In this paper, we propose a parallel-clone neural network method that utilizes a modularized network model and exploits the benefit of parallel input, parallel-output loss, and clone-toclone feature transfer. The proposed model keeps a similar or less number of unknown network weights as compared to conventional models but can accelerate the learning process significantly. The method was evaluated using the Mayo LDCT dataset and compared with existing deep learning models. The results show that the use of parallel input, parallel-output loss, and clone-to-clone feature transfer all can contribute to an accelerated convergence of deep learning and lead to improved image quality in testing. The parallel-clone network has been demonstrated promising for LDCT image denoising.

研究の動機と目的

• LDCTノイズ除去における逐次クローンディープラーニングアーキテクチャの限界、特に非効率な前向きおよび後向き情報伝搬を解決すること。
• クローンを逐次に積み重ねるのではなく、ネットワーク構造を再考することで、学習収束性と画像品質を向上させること。
• パラメータ数を低く保ちつつ、並列処理と特徴量通信により性能を向上させるモジュラーで軽量なディープラーニングフレームワークを構築すること。
• 提案手法を実世界のLDCTデータに対して評価し、最先端のノイズ除去モデルと比較すること。

提案手法

• 提案手法は、（例：RED-CNNやCPCEなど）モジュラーで共有重みを持つネットワークブロックを基本ユニットとし、これを逐次ではなく並列に複数クローン化する。
• 各クローンは同時に同じノイズの強いLDCT入力画像を受け取り、すべてのクローンにわたる入力情報の並列前方伝搬を可能にする。
• 各クローンの出力に対して損失関数を独立して計算し、並列に統合することで、勾配の逆伝搬が初期のクローンに効果的に伝わるようになり、消失勾配問題の緩和が図られる。
• スカイプ接続や連結によるクローン間特徴量転送を実装し、高レベル特徴量を共有することで表現学習が強化される。
• 順次モデルと比較して、同程度または低減されたトレーニング可能なパラメータ数を維持し、計算効率を確保する。
• マヨLDCTデータセット上で、平均二乗誤差（MSE）損失を用いてエンドツーエンドで学習し、PSNRおよびSSIMの最適化を図るためのハイパーパramータチューニングを実施。

実験結果

リサーチクエスチョン

• RQ1 クローンネットワークモジュールの入力と出力を並列化することで、逐次アーキテクチャと比較して、LDCTノイズ除去における学習収束性と画像品質が向上するか？
• RQ2 クローン間特徴量転送を組み込むことで、ディープノイズ除去ネットワークにおける特徴量学習が向上し、勾配消失が軽減されるか？
• RQ3 マヨLDCTデータ上で、PCNの並列クローン構造は、MAP-NNのような逐次クローンモデルと比較して、PSNR、SSIM、RMSEの観点で優れているか？
• RQ4 ノイズ除去性能を最大化しつつパrameter増加を最小限に抑えるために、最適なクローン数とベースネットワークモジュール（例：RED-CNN対CPCE）は何か？
• RQ5 提案されたPCNは、DnCNN や RED-CNN といった既存の最先端モデルを上回る画像品質を達成できるか、かつモデル効率を維持できるか？

主な発見

• 提案された並列クローンネットワーク（PCN）は、マヨLDCTデータセットでPSNR 45.7775 ± 1.1057を達成し、DnCNN（44.1305）、RED-CNN（44.5238）、MAP-NN（45.4612）を上回った。
• PCNは、比較対象すべてより高いSSIM（0.9855 ± 0.0045）と低いRMSE（0.0053 ± 0.0006）を達成し、構造的品質とノイズ低減性能に優れていることが示された。
• ベースモジュールにRED-CNNを使用した場合（PSNR: 45.4235）はCPCE（PSNR: 44.6365）よりも優れた結果を示し、モジュール選定が最終的性能に顕著に影響することがわかった。
• 3クローンを用いたPCNが、全テスト設定の中で最高のPSNRを達成し、このアーキテクチャにおける最適な深さであることが示された。
• モデル複雑度（パラメータ数）はMAP-NNを下回り、DnCNNやRED-CNNと同等であったが、画像品質は優れていた。
• 視覚的比較により、PCNはDnCNN、RED-CNN、MAP-NNと比較して、より細かな解剖学的構造を効果的に保持しており、過剰に平滑化されず、コントラストが向上していることが確認された。