[논문 리뷰] Deep BCD-Net Using Identical Encoding-Decoding CNN Structures for Iterative Image Recovery

Il Yong Chun, Jeffrey A. Fessler|arXiv (Cornell University)|2018. 02. 20.

Sparse and Compressive Sensing Techniques참고 문헌 18인용 수 8

한 줄 요약

이 논문은 극한의 계산 영상에서 반복적 이미지 복원을 향상시키기 위해 동일한 인코딩-디코딩 CNN 아키텍처를 사용하는 순환 신경망인 Deep BCD-Net을 제안한다. ADMM로 훈련하고 인코딩 및 디코딩에 공유 필터를 활용함으로써, 이전의 BCD-Net 변종과 전통적인 웨이브렛-TV 모델에 비해 특히 저SNR 노이즈 제거 및 10% 미만의 샘플링된 MRI에서 훨씬 높은 복원 정확도를 달성한다.

ABSTRACT

In "extreme" computational imaging that collects extremely undersampled or noisy measurements, obtaining an accurate image within a reasonable computing time is challenging. Incorporating image mapping convolutional neural networks (CNN) into iterative image recovery has great potential to resolve this issue. This paper 1) incorporates image mapping CNN using identical convolutional kernels in both encoders and decoders into a block coordinate descent (BCD) signal recovery method and 2) applies alternating direction method of multipliers to train the aforementioned image mapping CNN. We refer to the proposed recurrent network as BCD-Net using identical encoding-decoding CNN structures. Numerical experiments show that, for a) denoising low signal-to-noise-ratio images and b) extremely undersampled magnetic resonance imaging, the proposed BCD-Net achieves significantly more accurate image recovery, compared to BCD-Net using distinct encoding-decoding structures and/or the conventional image recovery model using both wavelets and total variation.

연구 동기 및 목표

• 측정치가 심각하게 부족하거나 노이즈가 많은 극한의 계산 영상에서 정확하고 효율적인 이미지 복원 문제를 해결한다.
• 이전의 BCD-Net 접근 방식에서 별개의 인코딩-디코딩 CNN의 표현 능력이 제한되어 있어 훈련 데이터의 풍부함을 충분히 포착하지 못하는 문제를 해결한다.
• 블록 좌표 강하 프레임워크 내에서 인코더 및 디코더 경로에 동일한 컨볼루션 커널을 사용하여 수렴 속도와 복원 정확도를 향상시킨다.
• 안정적이고 효율적인 최적화를 보장하기 위해 이미지 매핑 네트워크의 엔드 투 엔드 훈련을 교차 방향 다중수단(ADMM)을 사용하여 가능하게 한다.

제안 방법

• 인코더 및 디코더 브랜치에 동일한 컨볼루션 커널을 사용하는 새로운 BCD-Net 아키텍처를 제안하여 특징 표현 능력과 파rameter 효율성을 향상시킨다.
• 신호 x와 보조 변수 z를 포함하는 두 개의 변수를 사용하는 블록 좌표 강하(BCD) 최적화 프레임워크를 적용하며, 이는 데이터 적합성과 정규화 항을 통해 연결된다.
• 각 레이어에서 공유 필터를 사용하는 컨볼루션, 소프트 임계처리, 역컨볼루션의 합으로 정의된 학습된 이미지 매핑 네트워크를 도입한다.
• 엔드 투 엔드 훈련을 보장하기 위해 교차 방향 다중수단(ADMM)을 적용하여 최적화 중 수렴성과 안정성을 확보한다.
• 영상 신호의 위상과 진폭 정보를 처리하기 위해 복소수 연산과 복소수 도메인 내 소프트 임계처리를 사용한다.
• ADMM 프레임워크 내의 하위 문제에 대해 닫힌 해를 유도하여 훈련 속도를 가속화하고 확장성 향상에 기여한다.

실험 결과

연구 질문

• RQ1 반복적 BCD 기반 네트워크에서 별개의 아키텍처에 비해 동일한 인코딩-디코딩 CNN 아키텍처가 이미지 복원 성능 향상에 기여하는가?
• RQ2 인코더 및 디코더 경로에 공유 필터를 사용하면 훈련 데이터의 특징 학습과 표현이 향상되는가?
• RQ3 ADMM 기반 훈련이 이러한 네트워크의 이미지 복원 과제에서 더 빠른 수렴과 높은 정확도를 달성할 수 있는가?
• RQ4 제안된 BCD-Net은 저SNR 노이즈 제거 및 고도로 샘플링된 MRI에서 전통적인 웨이브렛 및 총 변동(TV) 모델과 비교해 어떻게 성능을 냅니다?
• RQ5 레이어 수를 늘일 경우 제안된 프레임워크에서 복원 정확도와 PSNR 향상에 어떤 영향을 미치는가?

주요 결과

• 저SNR 이미지 노이즈 제거(σ = 30)의 경우, 제안된 BCD-Net은 별개 아키텍처 BCD-Net 대비 PSNR를 0.92–1.32 dB 향상시킨다.
• 10% 미만의 샘플링된 MRI 복원에서, 제안된 BCD-Net과 이전 BCD-Net 간의 PSNR 격차는 레이어 수가 증가함에 따라 커지며 최대 0.92 dB에 이를 수 있다.
• 단지 10개의 레이어만으로도 기존의 웨이브렛-TV 모델 대비 PSNR를 5 dB 향상시키며, 최소한의 반복 수로도 뛰어난 정확도를 확보한다.
• 동일한 인코딩-디코딩 아키텍처는 필터가 훈련 데이터에 더 효과적으로 적응함으로써 더 나은 특징 학습을 가능하게 하며, 별개 아키텍처 기반 기준 대비 우수한 성능을 보인다.
• ADMM 기반 훈련 프레임워크는 안정적인 수렴을 보장하며 이미지 매핑 네트워크의 엔드 투 엔드 최적화를 가능하게 한다.
• 이 방법은 라디얼 또는 스파イラル MRI에서의 구조적 아티팩트(예: 앨리어싱)와 희박한 시야 CT에서의 스트리핑 아티팩트에 효과적이지만, 향후 연구에서 추가 검증이 필요하다.