[논문 리뷰] Accelerated gradient methods for total-variation-based CT image reconstruction

Jakob Sauer Jørgensen, Tobias Lindstrøm Jensen외 4명|arXiv (Cornell University)|2011. 05. 20.

Medical Imaging Techniques and Applications참고 문헌 18인용 수 22

한 줄 요약

이 논문은 총변동(TV)-기반 3D CT 영상 복원에 대해 가속화된 경사하강법인 GPBB와 UPN을 제안하며, 기존 표준 경사하강법 대비 반복 횟수를 크게 감소시킨다. 이 방법들은 빠른 수렴과 정확한 복원을 달성하며, 특히 희소 시야 조건에서 뛰어난 성능을 보이며, UPN은 비강한볼록(non-strongly convex), 소수의 시야가 있는 설정에서 특히 뛰어난 성능을 보인다.

ABSTRACT

Total-variation (TV)-based Computed Tomography (CT) image reconstruction has shown experimentally to be capable of producing accurate reconstructions from sparse-view data. In particular TV-based reconstruction is very well suited for images with piecewise nearly constant regions. Computationally, however, TV-based reconstruction is much more demanding, especially for 3D imaging, and the reconstruction from clinical data sets is far from being close to real-time. This is undesirable from a clinical perspective, and thus there is an incentive to accelerate the solution of the underlying optimization problem. The TV reconstruction can in principle be found by any optimization method, but in practice the large-scale systems arising in CT image reconstruction preclude the use of memory-demanding methods such as Newton's method. The simple gradient method has much lower memory requirements, but exhibits slow convergence. In the present work we consider the use of two accelerated gradient-based methods, GPBB and UPN, for reducing the number of gradient method iterations needed to achieve a high-accuracy TV solution in CT image reconstruction. The former incorporates several heuristics from the optimization literature such as Barzilai-Borwein (BB) step size selection and nonmonotone line search. The latter uses a cleverly chosen sequence of auxiliary points to achieve a better convergence rate. The methods are memory efficient and equipped with a stopping criterion to ensure that the TV reconstruction has indeed been found. An implementation of the methods (in C with interface to Matlab) is available for download from http://www2.imm.dtu.dk/~pch/TVReg/. We compare the proposed methods with the standard gradient method, applied to a 3D test problem with synthetic few-view data. We find experimentally that for realistic parameters the proposed methods significantly outperform the gradient method.

연구 동기 및 목표

• 대규모 비부드러운 최적화 문제로 인해 느린 총변동(TV)-기반 CT 영상 복원의 계산적 병목 현상을 해결한다.
• 소수의 시야 및 제한된 각도 데이터에서 표준 경사하강법(GP)의 느린 수렴 문제를 해결한다.
• 사용자 지정 허용 오차를 기반으로 높은 정확도의 TV 복원을 달성하는 메모리 효율적이고 수렴이 빠른 최적화 알고리즘을 개발한다.
• 특히 표준 방법이 어려움을 겪는 소수의 시야 데이터와 같이 비강한볼凸(non-strongly convex) 케이스에서 신뢰할 수 있는 수렴 기준을 확보한다.
• 실제 3D CT 영상 촬영 환경에서 표준 경사하강법 대비 GPBB와 UPN이 고정밀 TV 복원을 얼마나 효과적으로 가속화하는지 입증한다.

제안 방법

• 표준 경사하강법보다 수렴을 향상시키기 위해 바르질라이-보우인(Barzilai-Borwein) 스텝 사이즈 선택과 비단조화 선색색선(line search)을 조합한 GPBB 방법을 적용한다.
• 적응형 보조 점(sequence of auxiliary points)을 사용해 더 빠른 수렴 속도를 달성하는 UPN(최적 경사하강법) 알고리즘을 구현한다. 이는 원래 강한볼凸 문제를 대상으로 설계되었다.
• 기울기 맵 기반 정지 기준을 사용한다: $ \|G_{\nu}(x^{(k)})\|_2/N \leq \epsilon $ 일 때 정지하며, $ \epsilon $ 는 $ 10^{-8} $ 으로 설정하여 고정밀 해를 확보한다.
• TV 기반 복원을 제약 조건이 있는 최소화 문제로 공식화한다: $ x^* = \arg\min_{x \in \mathcal{Q}} \left( \frac{1}{2}\|Ax - b\|_2^2 + \alpha\|x\|_{\mathrm{TV}} \right) $, 여기서 $ \mathcal{Q} = \mathbb{R}_+^{64^3} $ 는 비음성 조건을 강제한다.
• 이산 총변동 $ \|x\|_{\mathrm{TV}} = \sum_{j=1}^N \|D_j x\|_2 $ 를 사용하며, 여기서 $ D_j $ 는 볼록체 j에서의 기울기 근사값을 나타내어 조각별로 일정한 해를 촉진한다.
• C로 두 알고리즘을 구현하고 MATLAB 인터페이스를 제공하며, http://www2.imm.dtu.dk/~pch/TVReg/ 에서 공개하여 임상 및 연구 현장에서의 실용적 활용을 가능하게 한다.

실험 결과

연구 질문

• RQ1 GPBB와 UPN과 같은 가속화된 경사하강법이 표준 경사하강법 대비 고정밀 TV 기반 3D CT 복원을 위한 반복 횟수를 크게 줄일 수 있는가?
• RQ2 GPBB와 UPN은 표준 수렴 가정이 실패하는 비강한볼凸 케이스, 예를 들어 소수의 시야 CT 복원에서 어떻게 성능을 발휘하는가?
• RQ3 희소 시야 CT와 같이 조건이 나쁜, 과소정의된 문제에서 기울기 맵 기반 정지 기준이 수렴을 신뢰성 있게 감지할 수 있는가?
• RQ4 UPN은 특히 도전적인 소수의 시야 환경에서 GPBB 및 표준 GP 대비 수렴 속도와 정확도에서 뛰어나게 성능을 발휘하는가?
• RQ5 이러한 방법들은 특히 노이즈가 있고 제한된 데이터를 가진 실제 3D 영상 문제에서 복원 속도를 높이면서도 정확도를 유지하는 데 얼마나 효과적인가?

주요 결과

• UPN은 많은 시야와 소수의 시야 데이터 모두에서 2000회 이내로 수렴을 달성했으며, 표준 경사하강법(GP)은 소수의 시야 케이스에서 동일한 제한 내에서 수렴에 실패했다.
• 많은 시야 케이스에서 GPBB와 UPN은 모두 GP보다 뚜렷한 가속 효과를 보였으며, 상호 수렴 속도가 유사했다.
• 소수의 시야 케이스에서 UPN은 GP와 GPBB보다 뚜렷이 더 빠른 수렴을 보였으며, 이는 비강한볼凸, 불안정한 설정에서의 우수성을 입증한다.
• 모든 방법에서 기울기 맵 노름 감쇠가 목적 함수 감쇠와 밀접하게 일치하여, 정지 기준 $ \|G_{\nu}(x^{(k)})\|_2/N \leq 10^{-8} $ 의 효과성을 검증했다.
• UPN를 사용한 소수의 시야 복원은 FORBILD 머리 펌프 암영에서 대부분의 특징을 정확히 복원했으며, 오직 두 개의 작은 특징만 누락된 것으로 나타나 높은 정밀도를 보였다.
• 강한볼凸 문제를 대상으로 설계되었음에도 불구하고, UPN는 소수의 시야 CT의 과소정의된, 비강한볼凸 케이스에서도 강건하고 효과적으로 작동하여 광범위한 적용 가능성을 입증했다.