[논문 리뷰] Deep neural networks for inverse problems with pseudodifferential operators: an application to limited-angle tomography

Tatiana A. Bubba, Mathilde Galinier외 4명|arXiv (Cornell University)|2020. 06. 02.

Numerical methods in inverse problemsMathematics참고 문헌 36인용 수 22

한 줄 요약

이 논문은 선형 역문제를 해결하기 위해 허위미분 연산자를 학습하는 새로운 컨volution 신경망 $\Psi$ DONet을 소개한다. 특히 한정된 입사각을 가진 컴퓨터 단층촬영(LA-CT)에 적용된다. 반복적 소프트 임계처리 알고리즘(ISTA)을 딥 네트워크 아키텍처로 해석함으로써, X선 변환의 기하학적 및 분석적 성질에서 유도된 웨이블릿 기반 분해와 컨볼루션 연산을 활용하여 희소한 입사각 데이터로부터 안정적이고 정확한 재구성을 달성한다.

ABSTRACT

We propose a novel convolutional neural network (CNN), called $\\Psi$DONet, designed for learning pseudodifferential operators ($\\Psi$DOs) in the context of linear inverse problems. Our starting point is the Iterative Soft Thresholding Algorithm (ISTA), a well-known algorithm to solve sparsity-promoting minimization problems. We show that, under rather general assumptions on the forward operator, the unfolded iterations of ISTA can be interpreted as the successive layers of a CNN, which in turn provides fairly general network architectures that, for a specific choice of the parameters involved, allow to reproduce ISTA, or a perturbation of ISTA for which we can bound the coefficients of the filters. Our case study is the limited-angle X-ray transform and its application to limited-angle computed tomography (LA-CT). In particular, we prove that, in the case of LA-CT, the operations of upscaling, downscaling and convolution, which characterize our $\\Psi$DONet and most deep learning schemes, can be exactly determined by combining the convolutional nature of the limited angle X-ray transform and basic properties defining an orthogonal wavelet system. We test two different implementations of $\\Psi$DONet on simulated data from limited-angle geometry, generated from the ellipse data set. Both implementations provide equally good and noteworthy preliminary results, showing the potential of the approach we propose and paving the way to applying the same idea to other convolutional operators which are $\\Psi$DOs or Fourier integral operators.

연구 동기 및 목표

• 선형 역문제에서 발생하는 허위미분 연산자(PDOs)를 체계적으로 학습하는 딥 러닝 프레임워크를 개발하는 것.
• 표준 방법(예: 필터링된 역백산법)이 각도 데이터 부족으로 실패하는, 입사각이 제한된 컴퓨터 단층촬영(LA-CT)의 불안정성 문제를 해결하는 것.
• 반복 알고리즘(예: ISTA)과 딥 네트워크 아키텍처 사이의 이론적 연결 고리를 구축하여 해석 가능하고 안정적인 학습을 가능하게 하는 것.
• 한정된 입사각 X선 변환의 컨볼루션 구조와 정규직교 웨이블릿 체계를 활용하여 해석적으로 결정된 계층을 갖는 네트워크를 설계하는 것.
• 타원 펌프 데이터셋을 사용한 시뮬레이션 LA-CT 데이터에서 제안된 방법의 실현 가능성과 강건성을 입증하는 것.

제안 방법

• 반복적 소프트 임계처리 알고리즘(ISTA)을 딥 리스크리드 네트워크 아키텍처로 전개하며, 각 ISTA 반복 단계가 네트워크의 한 계층에 해당한다.
• 네트워크 이름인 $\Psi$ DONet는 전방 연산자를 코어가 캘러드론-지그문트 커널과 콘 인디케이터 함수로부터 유도된 커널을 갖는 컨볼루션 연산자로 모델링함으로써 허위미분 연산자(PDO)의 작용을 학습하도록 설계된다.
• 네트워크는 한정된 입사각 X선 변환의 성질과 정규직교 웨이블릿 체계의 특성에 의해 해석적으로 결정된 업스케일링, 다운스케일링, 그리고 컨볼루션 연산을 포함한다.
• 데이터 적합성과 희소성 항을 포함하는 티코노프 유형 기능을 최소화하는 $\ell^1$ 정규화를 사용한 희소성 촉진 변분 공식을 통해 네트워크를 훈련시킨다.
• 이론적 분석을 통해 약한 가정 하에 네트워크 파라미터의 유계성을 보이며, 투영 연산자 $\mathbb{P}_p$와 $\mathbb{P}_q$를 포함한 안정성 추정을 통해 수렴성을 확립한다.
• 두 가지 서로 다른 $\Psi$ DONet의 구현이 타당성과 강건성 평가를 위해 시뮬레이션된 LA-CT 데이터에서 테스트되었다.

실험 결과

연구 질문

• RQ1 반복적 소프트 임계처리 알고리즘(ISTA)은 이론적 안정성과 수렴성을 유지하면서도 컨볼루션 신경망 아키텍처로 체계적으로 전개될 수 있는가?
• RQ2 딥 네트워크의 컨볼루션 레이어 중 어느 정도가 한정된 입사각 단층촬영의 전방 연산자의 수학적 구조에서 해석적으로 유도될 수 있는가?
• RQ3 웨이블릿 기반 분해와 허위미분 연산자 이론은 역문제에 대한 해석 가능하고 안정적인 딥 러닝 모델 설계를 어떻게 가능하게 하는가?
• RQ4 한정된 입사각 데이터에서 훈련된 딥 네트워크는 특히 각도 간극이 존재할 경우 기존 방법(예: 필터링된 역백산법)보다 뛰어난 재구성 품질을 달성할 수 있는가?
• RQ5 학습된 네트워크 파라미터와 기저 전방 연산자 사이의 이론적 관계는 무엇인가? 특히 필터 계수의 유계성과 수렴성 측면에서 어떻게 설명되는가?

주요 결과

• $\Psi$ DONet 프레임워크는 반복적 ISTA 알고리즘을 딥 리스크리드 네트워크 아키텍처로 성공적으로 매핑하여, 역문제에서 허위미분 연산자의 학습을 가능하게 한다.
• $\Psi$ DONet의 업스케일링, 다운스케일링, 컨볼루션 연산은 한정된 입사각 X선 변환의 컨볼루션 성질과 정규직교 웨이블릿의 성질에 의해 해석적으로 결정된다.
• 두 가지 구현된 $\Psi$ DONet가 시뮬레이션된 타원 펌프 데이터에서 테스트되었으며, 둘 다 희소한 입사각 투영으로부터 영상을 재구성하는 데 동일하게 우수하고 주목할 만한 초도 결과를 도출했다.
• 이론적 분석을 통해 필터 계수의 유계성과 수렴 속도를 확립하였으며, 네트워크 오차가 깊이에 따라 지수적으로 감소하고 전방 연산자의 변형에 대해 안정적임을 보였다.
• 데이터가 노이즈가 있거나 각도 커버리지가 심각하게 제한된 경우에도 안정적인 재구성을 달성하였으며, 기존의 필터링된 역백산법보다 뛰어난 성능을 보였다.
• 이 프레임워크는 허위미분 또는 푸리에 적분 연산자인 다른 컨볼루션 연산에 일반화 가능하며, 의료 및 산업 영상 분야의 광범위한 응용을 위한 길을 열어 놓았다.