[论文解读] Robust CUR Decomposition: Theory and Imaging Applications

HanQin Cai, Keaton Hamm+2 more|arXiv (Cornell University)|Jan 5, 2021

Sparse and Compressive Sensing Techniques参考文献 38被引用 9

一句话总结

本文提出Robust CUR分解，一种快速且可解释的低秩矩阵近似方法，通过结合CUR分解与鲁棒PCA，能够有效抵抗稀疏异常值。该方法在视频和人脸数据集上显著快于标准RPCA，同时保持相当的精度，且由于使用实际数据列而非SVD等方法中的抽象基向量，生成的典型帧或人脸模型更具可解释性。

ABSTRACT

This paper considers the use of Robust PCA in a CUR decomposition framework and applications thereof. Our main algorithms produce a robust version of column-row factorizations of matrices $\mathbf{D}=\mathbf{L}+\mathbf{S}$ where $\mathbf{L}$ is low-rank and $\mathbf{S}$ contains sparse outliers. These methods yield interpretable factorizations at low computational cost, and provide new CUR decompositions that are robust to sparse outliers, in contrast to previous methods. We consider two key imaging applications of Robust PCA: video foreground-background separation and face modeling. This paper examines the qualitative behavior of our Robust CUR decompositions on the benchmark videos and face datasets, and find that our method works as well as standard Robust PCA while being significantly faster. Additionally, we consider hybrid randomized and deterministic sampling methods which produce a compact CUR decomposition of a given matrix, and apply this to video sequences to produce canonical frames thereof.

研究动机与目标

• 开发一种鲁棒、计算高效的CUR分解方法，以处理大规模数据矩阵中的稀疏异常值。
• 通过使用实际数据列而非SVD或QR中的抽象基向量，实现可解释的低秩近似。
• 将该方法应用于真实世界的成像任务，如视频背景-前景分离和存在稀疏遮挡的人脸建模。
• 证明该方法在性能上可与标准鲁棒PCA相媲美，同时显著降低运行时间。
• 提出结合随机与确定性选择的混合采样策略，以生成紧凑且具有代表性的CUR分解。

提出的方法

• 将鲁棒PCA整合到CUR分解框架中，将矩阵D分解为低秩L和稀疏S分量。
• 使用随机列采样方法，基于定理3.10的理论采样边界选择初始代表性列。
• 应用确定性采样算法（算法3）从采样集合中精确选择r个代表性列，以构成CUR分解。
• 采用两阶段采样流程：首先进行随机采样以降低维度，然后进行确定性选择以确保低重建误差。
• 利用数据的自表达性特性，使实际数据列作为全矩阵的字典，从而增强可解释性。
• 使用投影误差的Frobenius范数 ||L - C C† L||_F 作为评估所选典型帧质量的度量。

实验结果

研究问题

• RQ1 是否可以在保持可解释性和计算效率的同时，使CUR分解对稀疏异常值具有鲁棒性？
• RQ2 在视频和人脸数据集上，Robust CUR与标准Robust PCA在准确率和速度方面的表现如何比较？
• RQ3 混合采样策略（随机+确定性）是否能为大规模成像数据生成紧凑且高质量的CUR分解？
• RQ4 在背景建模任务中，所选的CUR列是否能产生比SVD基向量更具可解释性的典型帧？
• RQ5 在存在稀疏遮挡的人脸数据中，该方法在多大程度上能保持底层的低秩结构？

主要发现

• Robust CUR分解在视频背景-前景分离和人脸建模任务中，性能与标准Robust PCA相当。
• 该方法显著快于标准RPCA，在ExtYaleB人脸数据集上的总运行时间仅为20.16秒，而RPCA为31.38秒。
• Robust CUR所选的典型背景帧比SVD基向量更具可解释性，因其代表了背景的不同物理状态（例如，有窗光与无窗光）。
• 在背景静态的视频序列中，Robust CUR选择的两个典型帧非常相似，正确捕捉了主导背景状态，而SVD基向量无法传达此类物理意义。
• 在人脸建模中，RCUR和RPCA均生成高质量的人脸模型和遮挡估计，证实了所提方法的鲁棒性与准确性。
• 混合采样方法有效降低了计算成本，同时保持了低重建误差，如投影误差 ||L - C C† L||_F 所衡量。