[논문 리뷰] Denoising and Completion of 3D Data via Multidimensional Dictionary Learning

Zemin Zhang, Shuchin Aeron|arXiv (Cornell University)|2015. 12. 31.

Sparse and Compressive Sensing Techniques참고 문헌 24인용 수 23

한 줄 요약

이 논문은 t-SVD 프레임워크 내에서 희소 코딩을 위한 텐서-SVD를 사용하여 K-SVD를 3차원 데이터로 확장하는 새로운 다차원 딕셔너리 학습 알고리즘인 K-TSVD를 제안한다. 영상과 다스펙트럴 이미지와 같은 3차원 데이터의 구조를 유지함으로써 K-TSVD는 여러 데이터셋에서 노이즈 제거 및 완성 작업에서 K-SVD, 3DK-SVD, BM3D 및 저질서 텐서 방법보다 뛰어난 PSNR 성능을 달성한다.

ABSTRACT

In this paper a new dictionary learning algorithm for multidimensional data is proposed. Unlike most conventional dictionary learning methods which are derived for dealing with vectors or matrices, our algorithm, named KTSVD, learns a multidimensional dictionary directly via a novel algebraic approach for tensor factorization as proposed in [3, 12, 13]. Using this approach one can define a tensor-SVD and we propose to extend K-SVD algorithm used for 1-D data to a K-TSVD algorithm for handling 2-D and 3-D data. Our algorithm, based on the idea of sparse coding (using group-sparsity over multidimensional coefficient vectors), alternates between estimating a compact representation and dictionary learning. We analyze our KTSVD algorithm and demonstrate its result on video completion and multispectral image denoising.

연구 동기 및 목표

• 벡터화 또는 행렬 기반의 딕셔너리 학습 방법이 3차원 데이터의 공간적 및 구조적 일관성을 해칠 수 있는 한계를 해결하기 위해.
• 영상과 다스펙트럴 이미지와 같은 3차원 텐서의 본질적인 다차원 구조를 유지하는 딕셔너리 학습 프레임워크를 개발하기 위해.
• 향상된 노이즈 제거 및 완성 성능를 위해, 새로운 텐서-SVD(t-SVD) 프레임워크를 활용한 3차원 데이터의 희소 코딩 및 재구성 기능을 제공하기 위해.
• t-SVD를 통해 고차원 텐서로의 K-SVD 알고리즘 일반화와 함께 다차원 계수 텐서에 대한 군집 희박성 제약 조건을 도입하기 위해.

제안 방법

• 원형 컨볼루션과 연산 이론 기반 텐서 곱셈을 기반으로 한 새로운 텐서-SVD(t-SVD) 프레임워크를 도입하여 대수적 텐서 분해를 가능하게 한다.
• 제3의 텐서를 위한 '튜벌 희박성(tubal sparsity)'을 사용하여 t-SVD 도메인에서 희소 표현을 유도하는 새로운 목적 함수를 수립한다.
• K-TSVD 알고리즘은 t-SVD 기반의 추적을 통한 희소 코딩과 다차원 계수 벡터에 대한 군집 희박성 기반 딕셔너리 업데이트를 번갈아 수행한다.
• 벡터화 없이 3차원 데이터에서 직접 과잉 결정된 딕셔너리를 학습함으로써 모든 텐서 모드에서 구조적 무결성을 유지한다.
• t-SVD 프레임워크 내에서 수정된 K-SVD 업데이트 규칙을 적용하여, 희소 코딩 및 딕셔너리 학습 하위 문제의 교차 최소화를 통해 수렴성을 보장한다.
• 학습된 희소 표현을 사용하여 손상되거나 누락된 항목을 재구성함으로써 노이즈 제거 및 데이터 완성 기능을 모두 지원한다.

실험 결과

연구 질문

• RQ1 벡터화 또는 행렬 기반 방법보다 딕셔너리 학습 알고리즘이 영상 및 다스펙트럴 데이터의 3차원 구조 일관성을 더 효과적으로 유지할 수 있는가?
• RQ2 t-SVD 기반의 희소 코딩은 기존의 K-SVD 및 3DK-SVD와 비교하여 3차원 데이터의 노이즈 제거 성능에서 어떻게 다를까?
• RQ3 다차원 계수 텐서에 대한 군집 희박성은 텐서 기반 딕셔너리 학습에서 재구성 정확도를 얼마나 향상시키는가?
• RQ4 제안된 K-TSVD 방법은 노이즈가 있거나 손상된 3차원 데이터를 다룰 때 저질서 텐서 근사 및 CP 기반 방법보다 뛰어나게 성능을 발휘할 수 있는가?
• RQ5 원래 텐서 구조를 유지하는 것이 영상 및 고스펙트럴 이미지 완성 및 노이즈 제거 작업에 어떤 영향을 미치는가?

주요 결과

• 차트 및 장난감 히퍼스펙트럴 데이터셋에서 K-TSVD는 10% 노이즈 희박성과 σ=100 조건에서 PSNR 27.19 dB를 기록했으며, K-SVD(22.73 dB), 3DK-SVD(22.61 dB), BM3D(26.95 dB)를 모두 초월했다.
• 자연 풍경 히퍼스펙트럴 데이터셋에서는 5% 희박성과 σ=100 조건에서 K-TSVD가 PSNR 25.94 dB를 기록했으며, 대부분의 경우 LRTA(25.64 dB)와 PARAFAC(24.57 dB)를 뛰어넘었다.
• 10% 노이즈 픽셀과 σ=100 조건에서 영상 노이즈 제거 작업에서 K-TSVD는 PSNR 25.94 dB를 달성했으며, BM3D 및 LRTA와 유사한 뛰어난 성능을 보였다.
• 모든 노이즈 수준과 희박성 설정에서 K-TSVD는 K-SVD 및 3DK-SVD를 일관되게 뛰어넘었으며, 3차원 구조를 유지하는 것이 유리함을 시사한다.
• 합성 및 실세계 데이터 모두에서 히퍼스펙트럴 이미지와 영상 시퀀스에 대해 뛰어난 성능을 기록하여, 본 방법의 강건성과 일반화 능력을 확인했다.
• 결과적으로 복잡한 노이즈 패턴을 가진 3차원 데이터에 대해 t-SVD 기반의 희소 코딩과 군집 희박성이 저질서 근사나 CP 기반 방법보다 더 효과적임을 시사한다.