[논문 리뷰] Separable Dictionary Learning with Global Optimality and Applications to Diffusion MRI.

Evan Schwab, Benjamin D. Haeffele외 2명|arXiv (Cornell University)|2018. 07. 15.

Sparse and Compressive Sensing Techniques인용 수 2

한 줄 요약

이 논문은 확산 MRI에서 공간 및 각도 사전를 동시에 학습하기 위해, 국소 강하와 전역 최적성 검증을 번갈아 사용하는 전역적으로 최적인 분리 가능한 사전 학습 프레임워크를 제안한다. 데이터의 텐서 구조를 활용하면서도 전역 최적해로 수렴함을 보장함으로써, 펌프 및 실제 dMRI 데이터에서 최신 기술 대비 뛰어난 노이즈 제거 성능을 달성한다.

ABSTRACT

Sparse dictionary learning is a popular method for representing signals as linear combinations of a few elements from a dictionary that is learned from the data. In the classical setting, signals are represented as vectors and the dictionary learning problem is posed as a matrix factorization problem where the data matrix is approximately factorized into a dictionary matrix and a sparse matrix of coefficients. However, in many applications in computer vision and medical imaging, signals are better represented as matrices or tensors (e.g. images or videos), where it may be beneficial to exploit the multi-dimensional structure of the data to learn a more compact representation. One such approach is separable dictionary learning, where one learns separate dictionaries for different dimensions of the data. However, typical formulations involve solving a non-convex optimization problem; thus guaranteeing global optimality remains a challenge. In this work, we propose a framework that builds upon recent developments in matrix factorization to provide theoretical and numerical guarantees of global optimality for separable dictionary learning. We propose an algorithm to find such a globally optimal solution, which alternates between following local descent steps and checking a certificate for global optimality. We illustrate our approach on diffusion magnetic resonance imaging (dMRI) data, a medical imaging modality that measures water diffusion along multiple angular directions in every voxel of an MRI volume. State-of-the-art methods in dMRI either learn dictionaries only for the angular domain of the signals or in some cases learn spatial and angular dictionaries independently. In this work, we apply the proposed separable dictionary learning framework to learn spatial and angular dMRI dictionaries jointly and provide preliminary validation on denoising phantom and real dMRI brain data.

연구 동기 및 목표

• 기존의 다차원 신호를 위한 분리 가능한 사전 학습 방법에서 전역 최적성 보장의 부족을 해결하기 위해.
• 확산 MRI에서 공간 및 각도 사전를 동시에 학습하는 프레임워크를 개발하여 데이터의 텐서 구조를 유지하기 위해.
• 비볼록 분리 가능한 사전 학습 문제에서 전역 최적성에 대한 이론적 및 수치적 보장을 제공하기 위해.
• 구조화된 다차원 신호 표현을 활용하여 확산 MRI에서의 노이즈 제거 성능을 향상시키기 위해.
• 합성 펌프 데이터와 실제 뇌 dMRI 스캔에서 이 방법의 실용적 유용성을 입증하기 위해.

제안 방법

• 이 방법은 공간 및 각도 차원에 대해 별도의 사전를 갖는 행렬 분해 문제로 분리 가능한 사전 학습을 공식화한다.
• 계수 및 사전 변수에 대해 국소 강하 단계를 번갈아 적용하는 교대 최적화 방식을 사용한다.
• 핵심 기여는 각 반복 단계에서 전역 최적성을 검증하는 증명 기반 점검을 통합한 것이다.
• 국소 최적화와 전역 최적성 검증을 조합하여 알고리즘은 전역 최적해로 수렴함을 보장한다.
• 각 볼륨의 확산 신호를 공간 및 각도 성분을 갖는 텐서로 모델링하여 dMRI 데이터에 프레임워크를 적용한다.
• 이 방법은 공간 및 각도 사전를 동시에 학습함으로써 전체 dMRI 신호의 압축적이고 구조화된 표현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 확산 MRI 데이터와 같은 다차원 신호를 위한 분리 가능한 사전 학습에서 전역 최적성을 달성할 수 있는가?
• RQ2 dMRI 노이즈 제거에서 공간 및 각도 사전를 동시에 학습하는 것과 독립적 또는 순차적 학습 방식을 비교했을 때 어떤 차이가 있는가?
• RQ3 dMRI 신호의 텐서 구조를 유지함이 표현의 압축성과 노이즈 제거 성능에 어떤 영향을 미치는가?
• RQ4 비볼록 환경에서 제안된 증명 기반 메커니즘이 전역 최적성을 신뢰성 있게 검증할 수 있는가?
• RQ5 최신 기술 대비 이 방법은 펌프 및 실제 dMRI 데이터에서 노이즈 제거 정확도를 향상시키는가?

주요 결과

• 제안된 방법은 국소 강하와 증명 기반 검증 단계를 조합하여 분리 가능한 사전 학습에서 전역 최적성을 달성한다.
• 이 프레임워크는 dMRI에서 공간 및 각도 사전를 동시에 학습함으로써 독립적 학습보다 다차원 신호 구조를 더 효과적으로 포착한다.
• 펌프 dMRI 데이터에서는 최신 기술 대비 뛰어난 노이즈 제거 성능을 보여준다.
• 실제 뇌 dMRI 데이터에서는 재구성 품질 향상과 노이즈 억제가 향상되어 실용적 유용성이 검증된다.
• 전역 최적성 증명 기반 메커니즘이 신뢰할 수 있는 수렴 검사를 가능하게 하여 비볼록 최적화에서 국소 최적해의 위험을 줄인다.
• 결과는 dMRI 신호의 텐서 구조를 분리 가능한 사전를 통해 활용함으로써 표현의 압축성과 노이즈 제거 정확도가 향상됨을 확인한다.