[論文レビュー] DuDoTrans: Dual-Domain Transformer Provides More Attention for Sinogram Restoration in Sparse-View CT Reconstruction

Ce Wang, Kun Shang+4 more|arXiv (Cornell University)|Nov 21, 2021

Medical Imaging Techniques and Applications参考文献 43被引用数 20

ひとこと要約

DuDoTransは、Swin Transformerベースの自己注意機構を用いてsinogram内の長距離依存関係をモデル化し、sinogram回復モジュール（SRT）と画像再構成モジュール（RIRM）を統合することで、スパarsely-view CT再構成を向上させる二領域Transformerアーキテクチャを提案する。SRTとRIRMを統合し、両領域の整合性を保つことで、パrameter数が少なく、ノイズレベルやデータセットの変動に対しても優れたロバスト性を示す。

ABSTRACT

While Computed Tomography (CT) reconstruction from X-ray sinograms is necessary for clinical diagnosis, iodine radiation in the imaging process induces irreversible injury, thereby driving researchers to study sparse-view CT reconstruction, that is, recovering a high-quality CT image from a sparse set of sinogram views. Iterative models are proposed to alleviate the appeared artifacts in sparse-view CT images, but the computation cost is too expensive. Then deep-learning-based methods have gained prevalence due to the excellent performances and lower computation. However, these methods ignore the mismatch between the CNN's extbf{local} feature extraction capability and the sinogram's extbf{global} characteristics. To overcome the problem, we propose extbf{Du}al- extbf{Do}main extbf{Trans}former ( extbf{DuDoTrans}) to simultaneously restore informative sinograms via the long-range dependency modeling capability of Transformer and reconstruct CT image with both the enhanced and raw sinograms. With such a novel design, reconstruction performance on the NIH-AAPM dataset and COVID-19 dataset experimentally confirms the effectiveness and generalizability of DuDoTrans with fewer involved parameters. Extensive experiments also demonstrate its robustness with different noise-level scenarios for sparse-view CT reconstruction. The code and models are publicly available at https://github.com/DuDoTrans/CODE

研究の動機と目的

• スパarsely-view CT再構成において、CNNの局所的特徴抽出とsinogramのグローバルなサンプリング特性との不一致を解消すること。
• 画像再構成の前に情報量の多いsinogramを回復することで、低線量CTにおけるアーチファクトとノイズを低減すること。
• 統合されたTransformerベースのフレームワークを用いて、sinogram領域と画像領域の最適化を統合し、再構成品質とロバスト性を向上させること。
• 微分可能で一貫性のあるレイヤーを介して、回復済みsinogramと再構成画像の間の整合性を保証すること。
• 多様なデータセットおよびノイズ条件において、汎用性と計算効率を実証すること。

提案手法

• Swin Transformerのシフトドメイン自己注意機構に基づくSinogram Restoration Transformer（SRT）モジュールを提案し、sinogram内の長距離依存関係をモデル化する。
• SRTをResidual Image Reconstruction Module（RIRM）と統合し、生のsinogramと強化済みsinogramの両方を用いて画像再構成を同時に最適化する。
• 再構成画像と回復済みsinogramの間のずれを低減するために、微分可能で一貫性のある二領域整合性レイヤーを設計する。
• SRTとRIRMを統合し、二領域の監視を組み合わせた統合フレームワークDuDoTransを構築し、エンドツーエンドの学習を可能にする。
• 局所的なインダクティブバイアスとグローバルなコンテキストモデリングを組み合わせ、CNNとTransformerの長所を適切に活用するパッチベースの処理を採用する。
• NIH-AAPMおよびCOVID-19データセット上でDuDoTransを学習・評価し、CNNベース、Transformerベース、およびディープアンローリング手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 Transformerベースのsinogram回復モジュールは、sinogramデータ内の長距離依存関係を捉えることで、スパarsely-view CT再構成を改善できるか？
• RQ2 二領域フレームワーク内でsinogram回復と画像再構成を統合すると、再構成品質とロバスト性にどのような影響を与えるか？
• RQ3 提案されたSRTモジュールは、CNN、Transformer、およびディープアンローリング手法を含むさまざまな再構成アーキテクチャに汎用的に適用可能か？
• RQ4 微分可能な一貫性レイヤーは、ドメインドリフトを効果的に低減し、回復済みsinogramと再構成画像の整合性を向上させられるか？
• RQ5 変動するノイズレベルやスパースビュー条件下で、DuDoTransは最先端の手法と比較して性能、パラメータ効率、推論速度の面で優れているか？

主な発見

• NIH-AAPMデータセットにおいてα_max = 96の条件下で、DuDoTransはPSNR 32.68 dBを達成し、ImgTrans（32.50 dB）とFBPConvNet（31.47 dB）を上回った。
• 同じデータセットにおいて、DuDoTransはSSIM 0.9047を達成し、ImgTrans（0.9010）とPDNet+SRT（0.9045）を上回った。
• Poissonノイズレベルが1e5、5e5、1e6の条件下でも、すべてのα_max設定で最良の性能を維持し、ノイズに強いことが示された。
• DuDoTrans-L1およびL2は、ベースラインモデルと比較してFLOPsを少なく抑えつつ、0.8–1.0 dBの性能向上を達成し、計算効率が優れていることが示された。
• 分布外のCOVID-19データセットでは、CNNベースの手法と比較してPSNRが4–5 dB向上し、ImgTransよりも0.4 dB高い性能を示した。
• アブレーションスタディの結果、SRTモジュールの追加により、CNN、Transformer、およびディープアンローリングベースラインのすべてでPSNRが0.5–1.0 dB向上した。