[논문 리뷰] Deep synthesis regularization of inverse problems

Daniel Obmann, Johannes Schwab외 1명|arXiv (Cornell University)|2020. 02. 01.

Sparse and Compressive Sensing Techniques참고 문헌 21인용 수 6

한 줄 요약

이 논문은 신경망을 비선형 합성 연산자로 사용하여 딥 러닝과 변분 정규화를 결합하는 새로운 프레임워크인 딥 심테시스 정규화(DESYRE)를 소개한다. 이는 이론적 보장을 갖춘 데이터 기반 복원을 가능하게 하며 수렴성과 수렴 속도를 확립하여 잡음이 있는 설정에서 전통적 방법을 능가하면서도 전방 연산자 변화에 대해 강건성을 유지한다.

ABSTRACT

Recently, a large number of efficient deep learning methods for solving inverse problems have been developed and show outstanding numerical performance. For these deep learning methods, however, a solid theoretical foundation in the form of reconstruction guarantees is missing. In contrast, for classical reconstruction methods, such as convex variational and frame-based regularization, theoretical convergence and convergence rate results are well established. In this paper, we introduce deep synthesis regularization (DESYRE) using neural networks as nonlinear synthesis operator bridging the gap between these two worlds. The proposed method allows to exploit the deep learning benefits of being well adjustable to available training data and on the other hand comes with a solid mathematical foundation. We present a complete convergence analysis with convergence rates for the proposed deep synthesis regularization. We present a strategy for constructing a synthesis network as part of an analysis-synthesis sequence together with an appropriate training strategy. Numerical results show the plausibility of our approach.

연구 동기 및 목표

• 역문제에서 데이터 기반 딥 러닝 방법과 이론적으로 탄탄한 변분 정규화 간 격차를 메우기 위해.
• 신경망을 신호 표현에 활용하면서도 수학적 수렴성과 수렴 속도를 보장하는 정규화 프레임워크를 개발하기 위해.
• 전방 연산자 K에 종속되지 않는 데이터 기반 인코더-디코더 학습 전략을 통해 합성 네트워크를 구축하기 위해.
• 네트워크 재학습 없이도 다양한 전방 연산자에 대해 강건한 복원을 가능하게 하기 위해.
• 딥 표현 학습과 이론적 안정성 및 수렴 분석을 융합하여 이미지 복원 품질을 향상시키기 위해.

제안 방법

• 신호가 $ u = oldsymbol{D}(oldsymbol{ heta}) $ 로 표현되는 딥 심테시스 정규화 기능을 제안하며, 여기서 $ oldsymbol{D} $ 는 비선형 합성 연산자로 작용하는 신경망이다.
• 신경망의 잠재 코드 $ oldsymbol{ heta} $ 에 대해 스파arsity 유도 정규화자 $ igraceVert oldsymbol{ heta} igraceVert_{1, extbf{w}} $ 를 사용하여 선형 프레임 기반 방법을 일반화한다.
• 최소화 문제 $ ext{argmin}_{oldsymbol{ heta}} igraceVert oldsymbol{K}oldsymbol{D}(oldsymbol{ heta}) - v_{oldsymbol{ u}} igraceVert^2 + oldsymbol{ u} igraceVert oldsymbol{ heta} igraceVert_{1, extbf{w}} $ 를 정의하며, 여기서 $ oldsymbol{K} $ 는 전방 연산자이고 $ v_{oldsymbol{ u}} $ 는 잡음이 있는 데이터이다.
• 기존의 변분 정규화 이론을 비선형 합성 연산자로 확장하여 소스 조건 하에서 이론적 수렴성과 선형 수렴 속도를 확립한다.
• 청결한 데이터에서 스파arsity 자동에코더(인코더-디코더 쌍)를 훈련하여 합성 네트워크 $ oldsymbol{D} $ 를 학습하며, 인코더는 $ oldsymbol{D} $ 의 역함수를 근사한다.
• 전방 연산자 $ oldsymbol{K} $ 에 종속되지 않는 훈련 전략을 적용하여, 재학습 없이도 다양한 역문제에 일반화 가능하게 한다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크 기반 비선형 합성 연산자를 사용하여 이론적 수렴 보장을 갖춘 정규화 방법을 구축할 수 있는가?
• RQ2 딥 러닝의 표현력은 변분 정규화에 어떻게 통합될 수 있으며, 동시에 수학적 안정성과 수렴 속도를 유지할 수 있는가?
• RQ3 제안된 딥 심테시스 정규화는 복원 품질과 강건성 측면에서 기존의 변분 방법과 후처리 네트워크를 능가하는가?
• RQ4 합성 네트워크의 훈련을 전방 연산자로부터 분리하여 다양한 역문제에서 재사용 가능하게 할 수 있는가?
• RQ5 훈련 데이터에 아티팩트가 포함된 이미지를 포함할 경우 딥 심테시스 정규화의 강건성에 어떤 영향을 미치는가?

주요 결과

• 노이즈가 없는 데이터에서 DESYRE 는 PSNR $ 35.49 /pm 0.55 $ 과 NMSE $ 0.004 /pm 0.0009 $ 를 기록하여, Tikhonov 및 TV 정규화보다 정량적 지표에서 뛰어난 성능을 보였다.
• 잡음이 있는 설정에서 DESYRE 는 효과적으로 잡음을 제거하고 아티팩트를 감소시켰지만, TV 정규화보다 더 흐릿한 이미지를 생성하여 잡음 억제와 에지 유지 사이의 상충 관계를 보였다.
• 훈련에 사용되지 않은 30개의 투사 시야를 가진 희박한 시야 CT 문제에서 DESYRE 는 60개 시야로 훈련된 후처리 네트워크보다 훨씬 더 낮은 아티팩트를 보였으며, 새로운 위조 구조를 유도하지 않았다.
• 후처리 네트워크는 다른 전방 연산자에서의 복원을 수정하지 못했지만, DESYRE 는 재학습 없이도 성능을 유지하여 일반화 능력을 입증했다.
• DESYRE 는 전방 연산자가 다를 경우에도 새로운 아티팩트를 유도하지 않아, 후처리 네트워크와는 달리 연산자 변화에 대해 강건함을 보였다.
• 이론적 분석을 통해 DESYRE 가 표준 소스 조건 하에서 수렴 조건을 만족하고 선형 수렴 속도를 달성함을 확인하여 딥 러닝 기반 역문제에 대한 견고한 수학적 기반을 확보했다.