[论文解读] Denoising and Completion of 3D Data via Multidimensional Dictionary Learning

Zemin Zhang, Shuchin Aeron|arXiv (Cornell University)|Dec 31, 2015

Sparse and Compressive Sensing Techniques参考文献 24被引用 23

一句话总结

该论文提出K-TSVD，一种新颖的多维字典学习算法，通过在t-SVD框架下使用张量-SVD进行稀疏编码，将K-SVD扩展至三维数据。通过保持视频和多光谱图像等数据的三维结构，K-TSVD在去噪和补全任务中实现了最先进性能，在多个数据集上的PSNR表现优于K-SVD、3DK-SVD、BM3D以及低秩张量方法。

ABSTRACT

In this paper a new dictionary learning algorithm for multidimensional data is proposed. Unlike most conventional dictionary learning methods which are derived for dealing with vectors or matrices, our algorithm, named KTSVD, learns a multidimensional dictionary directly via a novel algebraic approach for tensor factorization as proposed in [3, 12, 13]. Using this approach one can define a tensor-SVD and we propose to extend K-SVD algorithm used for 1-D data to a K-TSVD algorithm for handling 2-D and 3-D data. Our algorithm, based on the idea of sparse coding (using group-sparsity over multidimensional coefficient vectors), alternates between estimating a compact representation and dictionary learning. We analyze our KTSVD algorithm and demonstrate its result on video completion and multispectral image denoising.

研究动机与目标

• 为解决在三维数据上使用向量化或矩阵化字典学习方法时破坏空间与结构一致性的局限性。
• 开发一种能够保持三维张量（如视频和多光谱图像）内在多维结构的字典学习框架。
• 通过基于新型张量-SVD（t-SVD）框架的稀疏编码与重构，实现对三维数据的改进去噪与补全。
• 通过t-SVD与多维系数张量上的组稀疏性约束，将K-SVD算法推广至高阶张量。

提出的方法

• 该方法基于循环卷积和算子理论张量乘法，提出一种新的张量-SVD（t-SVD）框架，支持代数张量分解。
• 通过引入“管状稀疏性”（tubal sparsity），构建新的目标函数，以在t-SVD域中促进三阶张量的稀疏表示。
• K-TSVD算法在基于t-SVD的追踪与字典更新之间交替进行，采用对多维系数向量的组稀疏性。
• 该算法直接从三维数据中学习过完备字典，无需向量化，从而在所有张量模式下保持结构完整性。
• 在t-SVD框架内应用改进的K-SVD更新规则，通过交替最小化稀疏编码与字典学习子问题，确保收敛性。
• 该方法通过利用学习到的稀疏表示重建缺失或损坏的条目，支持去噪与数据补全。

实验结果

研究问题

• RQ1 字典学习算法是否能比向量化或矩阵化方法更有效地保持视频与多光谱数据的三维结构一致性？
• RQ2 基于t-SVD的稀疏编码在三维数据去噪性能上，与传统K-SVD和3DK-SVD相比如何？
• RQ3 对多维系数张量施加组稀疏性在张量字典学习中的重构精度提升程度如何？
• RQ4 所提出的K-TSVD方法在处理噪声或不完整三维数据时，是否能优于低秩张量近似与CP基方法？
• RQ5 保持原始张量结构对视频与高光谱图像补全与去噪任务的影响是什么？

主要发现

• 在图表与毛绒玩具高光谱数据集上，K-TSVD在10%噪声稀疏度和σ=100条件下达到27.19 dB的PSNR，优于K-SVD（22.73 dB）、3DK-SVD（22.61 dB）和BM3D（26.95 dB）。
• 在自然场景高光谱数据集上，K-TSVD在5%稀疏度和σ=100条件下达到25.94 dB的PSNR，多数情况下优于LRTA（25.64 dB）和PARAFAC（24.57 dB）。
• 在10%像素为噪声且σ=100的视频去噪任务中，K-TSVD达到25.94 dB的PSNR，性能强劲，与BM3D和LRTA相当。
• K-TSVD在所有噪声水平与稀疏度设置下均持续优于K-SVD与3DK-SVD，表明保持三维结构具有显著优势。
• 该方法在合成与真实世界数据（包括高光谱图像与视频序列）上均取得优异结果，证实其鲁棒性与泛化能力。
• 结果表明，结合组稀疏性的t-SVD基稀疏编码在处理具有复杂噪声模式的三维数据时，比低秩近似或CP基方法更为有效。