[논문 리뷰] A Comparative Study for the Weighted Nuclear Norm Minimization and Nuclear Norm Minimization

Zhiyuan Zha, Xinggan Zhang외 3명|arXiv (Cornell University)|2016. 08. 16.

Advanced Image Fusion Techniques인용 수 3

한 줄 요약

이 논문은 그룹 스퍼스 표현(GSR)을 연결하여 가중 핵노름 최소화(WNNM)가 저질 랭크 행렬 근사에서 핵노름 최소화(NNM)보다 성능이 뛰어나게 되는 이론적 설명을 제안한다. WNNM이 GSR에서 가중 L1-노름 최소화에 등가임을 보여주며, 이는 스퍼스리티를 향상시켜 더 나은 랭크 추정으로 이어지고, NNM 및 최신 기법들보다 뛰어난 이미지 노이즈 제거 성능을 통해 검증된다.

ABSTRACT

The nuclear norm minimization (NNM) is commonly used to approximate the matrix rank by shrinking all singular values equally. However, the singular values have clear physical meanings in many practical problems, and NNM may not be able to faithfully approximate the matrix rank. To alleviate the above-mentioned limitation of NNM, recent studies have suggested that the weighted nuclear norm minimization (WNNM) can achieve a better rank estimation than NNM, which heuristically set the weight being inverse to the singular values. However, it still lacks a rigorous explanation why WNNM is more effective than NMM in various applications. In this paper, we analyze NNM and WNNM from the perspective of group sparse representation (GSR). Concretely, an adaptive dictionary learning method is devised to connect the rank minimization and GSR models. Based on the proposed dictionary, we prove that NNM and WNNM are equivalent to L1-norm minimization and the weighted L1-norm minimization in GSR, respectively. Inspired by enhancing sparsity of the weighted L1-norm minimization in comparison with L1-norm minimization in sparse representation, we thus explain that WNNM is more effective than NMM. By integrating the image nonlocal self-similarity (NSS) prior with the WNNM model, we then apply it to solve the image denoising problem. Experimental results demonstrate that WNNM is more effective than NNM and outperforms several state-of-the-art methods in both objective and perceptual quality.

연구 동기 및 목표

• 모든 특이값을 동일하게 압축하는 데 기인한 행렬 랭크를 충실하게 근사하지 못하는 핵노름 최소화(NNM)의 한계를 해결하기 위해.
• NNM에 비해 WNNM이 경험적으로 성공을 거두는 데 이르는 엄밀한 이론적 설명을 제공하기 위해.
• 적응형 사전 학습 방법을 사용하여 저질 랭크 행렬 복원과 그룹 스퍼스 표현(GSR) 간의 연결 고리를 구축하기 위해.
• 비국소 자기유사성(NSS)을 WNNM에 통합하여 이미지 노이즈 제거 성능을 향상시키기 위해.

제안 방법

• 저질 랭크 행렬 복원을 그룹 스퍼스 표현(GSR) 프레임워크로 매핑하는 적응형 사전 학습 방법을 개발한다.
• NNM이 GSR 모델에서 L1-노름 최소화에 등가임을 증명하고, WNNM은 가중 L1-노름 최소화에 해당됨을 보인다.
• 이론적 등가성을 활용하여 WNNM이 스퍼스리티를 향상시켜 NNM보다 더 나은 랭크 근사치를 얻는 이유를 설명한다.
• 비국소 자기유사성(NSS) 사전 지식을 WNNM 모델에 통합하여 이미지 노이즈 제거 성능을 향상시킨다.
• NSS 제약 조건을 포함한 WNNM 기반 최적화 문제로 이미지 노이즈 제거 문제를 공식화한다.
• 효율적인 알고리즘을 사용하여 유도된 최적화 문제를 해결하고, 광범위한 실험을 통해 검증한다.

실험 결과

연구 질문

• RQ1 실제로 왜 가중 핵노름 최소화(WNNM)가 핵노름 최소화(NNM)보다 더 나은 랭크 추정을 달성하는가?
• RQ2 저질 랭크 행렬 복원과 그룹 스퍼스 표현(GSR) 사이의 이론적 관계는 무엇인가?
• RQ3 가중 L1-노름 최소화에서의 스퍼스리티 향상은 왜 WNNM이 NNM를 능가하는가를 설명할 수 있는가?
• RQ4 WNNM과 비국소 자기유사성(NSS)을 조합할 경우 이미지 노이즈 제거 성능이 얼마나 향상되는가?
• RQ5 제안된 WNNM 기반 방법은 정량적 및 정성적 품질 측면에서 최신 기술들과 비교해 어떻게 성능을 냈는가?

주요 결과

• WNNM은 그룹 스퍼스 표현(GSR) 프레임워크 내에서 가중 L1-노름 최소화에 이론적으로 등가이며, NNM는 표준 L1-노름 최소화에 해당한다.
• 가중 L1-노름 최소화의 향상된 스퍼스리티가 WNNM이 NNM보다 더 나은 랭크 근사치를 제공하는 이유를 설명한다.
• WNNM과 비국소 자기유사성(NSS)의 통합은 이미지 노이즈 제거 성능 향상으로 이어진다.
• 제안된 방법은 정량적 지표와 정성적 품질 측면에서 여러 최신 기술보다 뛰어난 성능을 보였다.
• 실험 결과는 WNNM이 다양한 벤치마크 데이터셋에서 NNM보다 뛰어난 노이즈 제거 성능을 달성함을 확인한다.