[論文レビュー] Stochastic EM methods with Variance Reduction for Penalised PET Reconstructions

Željko Kereta, Robert Twyman+3 more|arXiv (Cornell University)|Jun 6, 2021

Medical Imaging Techniques and Applications参考文献 52被引用数 13

ひとこと要約

本稿では、ペナルティ付きPET画像再構成のための2つの確率的バイアス除去手法—SVREMおよびバイアス除去勾配上昇法（SAGA/SVRG）—を提案する。これらの手法は、古典的なOSEMに比べて収束を著しく高速化するとともに、安定性および非負性を保証する。手法は、画像品質の向上を伴いながらも、特に微細構造の解像度を高める点で、既存のOSEM型アルゴリズムを上回る性能を示す。数値実験では、収束速度と画像品質の両面で優れた結果が得られた。

ABSTRACT

Expectation-maximization (EM) is a popular and well-established method for image reconstruction in positron emission tomography (PET) but it often suffers from slow convergence. Ordered subset EM (OSEM) is an effective reconstruction algorithm that provides significant acceleration during initial iterations, but it has been observed to enter a limit cycle. In this work, we investigate two classes of algorithms for accelerating OSEM based on variance reduction for penalised PET reconstructions. The first is a stochastic variance reduced EM algorithm, termed as SVREM, an extension of the classical EM to the stochastic context, by combining classical OSEM with insights from variance reduction techniques for gradient descent. The second views OSEM as a preconditioned stochastic gradient ascent, and applies variance reduction techniques, i.e., SAGA and SVRG, to estimate the update direction. We present several numerical experiments to illustrate the efficiency and accuracy of the approaches. The numerical results show that these approaches significantly outperform existing OSEM type methods for penalised PET reconstructions, and hold great potential.

研究の動機と目的

• ペナルティ付きPET再構成における古典的OSEMの収束遅さおよびリミットサイクル挙動を解消すること。
• バイアス除去を組み込んだ確率的最適化手法を開発し、非負性および安定性を維持したまま収束を高速化すること。
• 機械学習分野の最新の確率的最適化技術をPET画像再構成に統合し、計算効率を向上させること。
• 提案されたアルゴリズムが、定数の前処理行列を用いた場合に、最大事後確率（MAP）解への確実収束を理論的に保証すること。

提案手法

• MAP PET再構成のための、バイアス除去と補助関数に基づくペナルティ処理を組み合わせた確率的バイアス除去EMアルゴリズム（SVREM）を提案する。
• 十分統計量の移動平均とバイアス除去を用いて更新の安定化と収束加速を実現する。
• OSEMを前処理付き確率的勾配上昇法として再定式化し、更新方向におけるバイアス除去にSAGAおよびSVRGを適用する。
• 勾配ベース手法における非負性の強制のための射影ステップ（proximal写像）を適用し、物理的妥当性を確保する。
• 収束速度と安定性のバランスを取るために、対角行列の前処理行列とステップサイズスケジュールを用いる。
• 理論的解析により、定数の前処理行列を用いた場合、修正された尤度関数に対するほとんど確実収束が証明されている。

実験結果

リサーチクエスチョン

• RQ1 確率的最適化分野のバイアス除去技術は、ペナルティ付きPET再構成に効果的に適用可能か？
• RQ2 SVREMおよびバイアス除去勾配法は、収束速度と画像品質の点で古典的OSEMに比べてどのように優れているか？
• RQ3 ステップサイズの選定および前処理行列設計が、これらのアルゴリズムの安定性と性能に与える影響は何か？
• RQ4 これらの手法は、OSEMに特徴的なリミットサイクル挙動を回避しつつ、初期段階での高速収束を維持できるか？
• RQ5 非滑らかなおよび滑らかなペナルティ項を用いた場合、これらのアルゴリズムの理論的収束挙動はいかなるものか？

主な発見

• SVREMおよびバイアス除去勾配法（SAGA/SVRG）は、収束速度と画像品質の両面で、古典的OSEMを著しく上回っている。特に微細構造の解像度向上において顕著な優位性を示す。
• SVREMは、過剰緩和を伴ってもリミットサイクルを示さず、EMに基づく更新により非負性を維持する安定した収束を達成する。
• 定数の前処理行列と適切なステップサイズを用いた場合、これらのアルゴリズムは理論的保証のもとでMAP解に収束する。
• 数値結果から、SVREMは200エポック、70のサブセットを用いた場合に約-1.370×10⁵の対数尤度を達成し、SAGAおよびSVRGを上回る性能を示した。
• 画素単位の差分画像から、SVREMは50エポックおよび200エポックでの再構成が1000エポックの基準値に著しく近いことが示され、収束の安定性が裏付けられた。
• ステップサイズαの影響は良好に制御されている。SVREMではα=0.7、SAGA/SVRGではα=0.5–0.7の範囲で最適な性能が得られ、適切な調整により収束速度が向上した。