[논문 리뷰] A fast patch-dictionary method for whole image recovery

Yangyang Xu, Wotao Yin|arXiv (Cornell University)|2014. 08. 16.

Sparse and Compressive Sensing Techniques참고 문헌 17인용 수 13

한 줄 요약

이 논문은 압축 감지 및 의료 영상과 같은 글로벌 영상 복원 작업에서 전체 영상 복원을 위한 빠르고 겹치지 않는 패치-사전 방법을 제안한다. 영상을 겹치지 않는 패치 서브셋으로 나누고, 각 서브셋별로 독립적으로 희소 복원을 수행하며, 결과를 평균화함으로써 과적합을 줄이고 계산 시간을 단축한다. 이로 인해 최신 기술 수준의 PSNR 성능을 달성하며, 블록 프락시멀 그라디언트 방법을 통한 가속된 사전 학습과 함께 전역 수렴성을 확보한다.

ABSTRACT

Various algorithms have been proposed for dictionary learning. Among those for image processing, many use image patches to form dictionaries. This paper focuses on whole-image recovery from corrupted linear measurements. We address the open issue of representing an image by overlapping patches: the overlapping leads to an excessive number of dictionary coefficients to determine. With very few exceptions, this issue has limited the applications of image-patch methods to the local kind of tasks such as denoising, inpainting, cartoon-texture decomposition, super-resolution, and image deblurring, for which one can process a few patches at a time. Our focus is global imaging tasks such as compressive sensing and medical image recovery, where the whole image is encoded together, making it either impossible or very ineffective to update a few patches at a time. Our strategy is to divide the sparse recovery into multiple subproblems, each of which handles a subset of non-overlapping patches, and then the results of the subproblems are averaged to yield the final recovery. This simple strategy is surprisingly effective in terms of both quality and speed. In addition, we accelerate computation of the learned dictionary by applying a recent block proximal-gradient method, which not only has a lower per-iteration complexity but also takes fewer iterations to converge, compared to the current state-of-the-art. We also establish that our algorithm globally converges to a stationary point. Numerical results on synthetic data demonstrate that our algorithm can recover a more faithful dictionary than two state-of-the-art methods. Combining our whole-image recovery and dictionary-learning methods, we numerically simulate image inpainting, compressive sensing recovery, and deblurring. Our recovery is more faithful than those of a total variation method and a method based on overlapping patches.

연구 동기 및 목표

• 겹치는 영상 패치를 사용할 때 발생하는 과적합과 높은 계산 비용 문제를 해결하기 위해.
• 압축 감지 및 의료 영상과 같은 작업에서 패치 기반 처리가 효과적이지 않은 상황에서 효율적이고 정확한 글로벌 영상 복원을 가능하게 하기 위해.
• 겹치는 패치 대신 겹치지 않는 패치 서브셋을 사용하여 희소 코딩의 자유 변수 수를 줄이기 위해.
• 낮은 반복 단위 비용과 더 빠른 수렴 속도를 갖는 블록 프락시멀 그라디언트 방법을 사용해 사전 학습을 가속화하기 위해.
• 제안된 알고리즘의 전역 수렴성을 입증하여 정류점에 수렴함을 보장하기 위해.

제안 방법

• 이 방법은 변수의 자유도를 줄이고 과적합을 방지하기 위해 영상을 여러 개의 겹치지 않고 덮는 패치 서브셋으로 나눈다.
• 각 서브셋에 대해 ℓ₁ 최소화를 통해 독립적으로 희소 복원을 수행하여 전체 영상 복원을 도출한다.
• 다양한 패치 서브셋에서 유도된 복원 결과를 평균화하여 격자 무늬 잔상 제거 및 정밀도 향상에 기여한다.
• 반복 단위 비용을 줄이고 수렴 속도를 높이기 위해 사전 학습에 블록 프락시멀 그라디언트 알고리즘을 사용한다.
• 희소 계수와 사전를 번갈아 업데이트함으로써 정류점에 전역 수렴하는 것을 보장한다.
• 모든 겹치는 패치를 동시에 처리하지 않기 때문에 병렬 계산이 가능하고 확장성 확보가 가능하다.

실험 결과

연구 질문

• RQ1 겹치지 않는 패치 서브셋을 효과적으로 사용하여 전체 영상 복원에서 과적합과 계산 비용을 줄일 수 있는가?
• RQ2 다양한 겹치지 않는 패치 서브셋에서 유도된 복원 결과를 평균화하면 영상 정밀도가 향상되고 격자 무늬 잔상이 제거되는가?
• RQ3 블록 프락시멀 그라디언트 방법을 사용한 사전 학습이 최신 기술 대비 더 빠른 수렴 속도와 낮은 반복 단위 비용을 달성할 수 있는가?
• RQ4 비볼록 희소 복원 문제에서 제안된 알고리즘이 정류점에 전역 수렴하는가?
• RQ5 압축 감지 및 블러 복원 작업에서 제안된 방법이 TV 및 겹치는 패치 기반 방법 대비 PSNR와 속도에서 어떻게 비교되는가?

주요 결과

• 압축 감지에서 제안된 방법은 TV 및 겹치는 패치 기반 방법보다 높은 PSNR 성능을 달성하였으며, 10% 샘플링 비율과 1% 노이즈 조건에서 최대 PSNR 37.76를 기록하였다.
• 이미지 블러 복원 작업에서 'Plane' 이미지에 대해 1% 노이즈 조건에서 PSNR 35.35를 달성하여 겹치는 패치 방법 및 TV를 능가하였다.
• 압축 감지에서 'Lena' 이미지에 대해 30% 샘플링 비율에서 학습된 사전를 사용한 결과 PSNR 35.44를 기록하였으며, DCT 기반 및 TV 방법을 초월하였다.
• 평균화에 사용된 겹치지 않는 패치 서브셋을 다섯 개로 제한함으로써 효과적으로 격자 무늬 잔상을 제거하고 복원 품질을 향상시켰다.
• 기존 접근 방식에 비해 더 빠른 수렴 속도와 낮은 반복 단위 복잡도를 보이며 사전 학습에 블록 프락시멀 그라디언트 방법을 적용하였다.
• 알고리즘이 정류점에 전역 수렴함을 입증하여 안정성과 신뢰성에 대한 이론적 근거를 확보하였다.