[論文レビュー] Computationally Efficient Cascaded Training for Deep Unrolled Network in CT Imaging.

Dufan Wu, Kyung Sang Kim+1 more|arXiv (Cornell University)|Oct 5, 2018

Medical Imaging Techniques and Applications被引用数 1

ひとこと要約

本稿では、局所的極小値を回避するための順序付きサブセットを用いた分離可能な二次的サロゲートと、UNetベースのCNNおよびパッチ単位のグリーディトレーニングを用いた、3次元CT画像再構成における深層アンロールネットワークの計算効率の高い段階的トレーニング手法を提案する。この手法は、標準GPU上でメモリとトレーニング時間を削減しながら、スパarselyビューおよび限界角度の低線量CTタスクで最先端の画像品質を達成する。

ABSTRACT

Deep-neural-network-based image reconstruction has demonstrated promising performance in medical imaging for under-sampled and low-dose scenarios. However, it requires large amount of memory and extensive time for the training. It is especially challenging to train the reconstruction networks for three-dimensional computed tomography (CT) because of the high resolution of CT images. The purpose of this work is to reduce the memory and time consumption of the training of the reconstruction networks for CT to make it practical for current hardware, while maintaining the quality of the reconstructed images. We unrolled the proximal gradient descent algorithm for iterative image reconstruction to finite iterations and replaced the terms related to the penalty function with trainable convolutional neural networks (CNN). The network was trained greedily iteration by iteration in the image-domain on patches, which requires reasonable amount of memory and time on mainstream graphics processing unit (GPU). To overcome the local-minimum problem caused by greedy learning, we used deep UNet as the CNN and incorporated separable quadratic surrogate with ordered subsets for data fidelity, so that the solution could escape from easy local minimums and achieve better image quality. The proposed method achieved comparable image quality with state-of-the-art neural network for CT image reconstruction on 2D sparse-view and limited-angle problems on the low-dose CT challenge dataset.

研究の動機と目的

• 標準のハードウェア上で深層学習ベースの3次元CT画像再構成のためのメモリとトレーニング時間を削減すること。
• 高解像度CTボリュームにおける深層ネットワークのトレーニングにかかる高い計算コストに対処すること。
• アンダーサンプリングおよび低線量CTの状況でも高い画像品質を維持すること。
• 高度な最適化戦略を用いて、グリーディトレーニングにおける局所的極小値を克服すること。
• 臨床的CT再構成に向けた深層アンロールネットワークの実用的導入を可能にすること。

提案手法

• 近似勾配降下法を有限回の反復にまでアンロールし、罰則関数項をトレーニング可能なCNNに置き換える。
• 画像ドメインで小さなパッチに対して、1反復ずつグリーディにトレーニングすることで、メモリ使用量を削減する。
• 各反復におけるトレーニング可能なCNNコンponentとして、深層UNetアーキテクチャを採用する。
• データ適合項に分離可能な二次的サロゲートと順序付きサブセットを適用し、収束性の向上と局所的極小値からの脱出を図る。
• 主流のGPU上でパッチベースのトレーニングを実施することで、実用的なトレーニング時間とメモリ使用量を確保する。
• 反復的アンローリングと深層学習を組み合わせることで、再構成精度と計算効率のバランスを図る。

実験結果

リサーチクエスチョン

• RQ1 段階的でパッチ単位のトレーニングは、3次元CT再構成のための深層アンロールネットワークのトレーニングにおけるメモリと時間の消費を低減できるか？
• RQ2 順序付きサブセットを用いた分離可能な二次的サロゲートの使用は、グリーディトレーニングにおける収束性と画像品質をどのように向上させるか？
• RQ3 UNetベースのCNNは、パッチ上で段階的かつグリーディにトレーニングされた場合、どの程度の画像品質を維持できるか？
• RQ4 提案手法は、低線量およびスパarselyビューCTタスクにおいて、最先端の深層学習手法と比較して競争力のある性能を達成できるか？
• RQ5 本手法は、高価なハードウェアを必要とせず、標準GPU上で実用的にデプロイ可能か？

主な発見

• 提案手法は、2次元のスパarselyビューおよび限界角度再構成タスクにおいて、低線量CTチャレンジデータセットで最先端のニューラルネットワークと同等の画像品質を達成した。
• パッチ単位のグリーディで反復的なトレーニングのおかげで、主流のGPU上でトレーニングが可能となり、メモリと時間の要件が顕著に削減された。
• 分離可能な二次的サロゲートと順序付きサブセットの使用により、モデルは劣悪な局所的極小値から脱出し、再構成忠実度が向上した。
• 深層UNetアーキテクチャは、反復全体にわたる罰則関数項を効果的に学習でき、高品質な画像再構成を可能にした。
• 段階的トレーニング戦略により、性能を維持したまま計算コストを著しく削減でき、臨床的デプロイメントに実用的であることが示された。