[논문 리뷰] Measuring Robustness in Deep Learning Based Compressive Sensing

Mohammad Zalbagi Darestani, Akshay Chaudhari외 1명|arXiv (Cornell University)|2021. 02. 11.

Sparse and Compressive Sensing Techniques참고 문헌 53인용 수 47

한 줄 요약

본 논문은 trained, un-trained, and traditional CS MRI reconstruction methods를 대적적 교란, 분포 이동, 그리고 작은 디테일 회복에 대해 비교하여 재구성 품질을 넘어서는 강건성을 평가한다.

ABSTRACT

Deep neural networks give state-of-the-art accuracy for reconstructing images from few and noisy measurements, a problem arising for example in accelerated magnetic resonance imaging (MRI). However, recent works have raised concerns that deep-learning-based image reconstruction methods are sensitive to perturbations and are less robust than traditional methods: Neural networks (i) may be sensitive to small, yet adversarially-selected perturbations, (ii) may perform poorly under distribution shifts, and (iii) may fail to recover small but important features in an image. In order to understand the sensitivity to such perturbations, in this work, we measure the robustness of different approaches for image reconstruction including trained and un-trained neural networks as well as traditional sparsity-based methods. We find, contrary to prior works, that both trained and un-trained methods are vulnerable to adversarial perturbations. Moreover, both trained and un-trained methods tuned for a particular dataset suffer very similarly from distribution shifts. Finally, we demonstrate that an image reconstruction method that achieves higher reconstruction quality, also performs better in terms of accurately recovering fine details. Our results indicate that the state-of-the-art deep-learning-based image reconstruction methods provide improved performance than traditional methods without compromising robustness.

연구 동기 및 목표

• 딥 러닝과 전통적인 CS MRI 재구성 방법의 adversarial perturbations에 대한 강건성 평가.
• 데이터세트와 해부학에 따른 분포 이동에 대한 민감도 평가.
• 작지만 임상적으로 관련된 영상 세부 정보를 복구하는 능력 조사.
• trained 신경망, un-trained 네트워크, 및 고전적인 sparsity 기반 방법 비교.
• MRI 재구성에서 강건성-성능 트레이드오프에 대한 지침 제공.

제안 방법

• 세 가지 방법 계열을 연구: trained networks (U-net, VarNet), un-trained networks (Deep Decoder variants), 및 traditional ℓ1-wavelet sparsity with ESPIRiT coil maps.
• 각 방법에 맞춘 adversarial perturbations를 생성하고 ℓ2-노름 제약 하의 perturbation에서 재구성 손실을 측정한다.
• 분포 이동은 데이터세트 이동 (fastMRI knee to Stanford knee), 해부학 이동 (knee to brain and vice versa), 및 adversarially-filtered shifts (fastMRI-A)로 평가한다.
• 인공 3x3 특징 삽입 및 무릎 영상의 실제 주석 병변으로 작은 특징 회복을 정량화한다.
• SSIM, PSNR, 및 영역 기반 MSE 지표를 사용하여 분포 이동 및 교란에 대한 각 방법의 강건성을 분석한다.

실험 결과

연구 질문

• RQ1 trained과 un-trained MRI 재구성 방법이 작은 적대적 교란에 대해 유사한 취약점을 보이나?
• RQ2 분포 이동이 방법 계열 전반의 재구성 품질에 어떤 영향을 미치며, 분포외(Out-of-Distribution) 성능이 분포 내 성능과 상관관계가 있는가?
• RQ3 전반적인 재구성 품질과 이미지 세부 정보를 복구하는 능력 간에 방법 간 트레이드오프가 있는가?
• RQ4 작고 임상적으로 관련된 특징은 서로 다른 재구성 접근법에서 어떻게 회복되는가?
• RQ5 un-trained 방법이 dataset, anatomy 및 adversarial shifts 하에서 trained 네트워크에 비해 비교 가능한 강건성을 보이는가?

주요 결과

• 모든 방법은 trained networks, un-trained networks, 및 전통적인 ℓ1 기반 CS를 포함하여 작은 adversarial perturbations에 취약하다.
• 한 방법에 맞춘 adversarial perturbations가 해당 방법을 크게 손상시키는 반면 다른 방법에는 비교적 완화된 영향을 주어 방법별 강건성의 약점을 시사한다.
• 데이터세트, 해부학, adversarially-filtered와 같은 분포 이동은 학습된 방법과 비학습 방법 모두의 성능을 감소시키며 절대 감소폭은 유사하다.
• Out-of-distribution 성능은 in-distribution 성능과 선형으로 상관되며, 이동하더라도 방법의 순위는 유사하게 유지된다.
• 높은 in-distribution 재구성 품질은 이미지의 세부 정보 및 작은 특징의 회복과 더 잘 연관된다.
• Un-trained 방법은 분포 이동에 대해 본질적으로 더 강건하지 않으며, 재구성 품질에서 가장 잘 수행된 방법이 작은 특징 회복에서도 일반적으로 최고를 기록한다.