[论文解读] Collaborative Multi-sensor Classification via Sparsity-based Representation

Minh N. Dao, Nam H. Nguyen+2 more|arXiv (Cornell University)|Oct 29, 2014

Sparse and Compressive Sensing Techniques参考文献 34被引用 4

一句话总结

该论文提出了一种用于多传感器分类的协作稀疏表示框架，通过在异构传感器之间联合施加行稀疏性和块稀疏性，同时鲁棒地建模稀疏噪声和低秩干扰。该方法引入了MS-JSR、MS-JSR+E、MS-JSR+L以及核化变体（MS-KerJSR、MS-KerGJSR+L），采用具有收敛性保证的ADMM算法求解，在真实多传感器数据集上的分类准确率优于传统方法。

ABSTRACT

In this paper, we propose a general collaborative sparse representation framework for multi-sensor classification, which takes into account the correlations as well as complementary information between heterogeneous sensors simultaneously while considering joint sparsity within each sensor's observations. We also robustify our models to deal with the presence of sparse noise and low-rank interference signals. Specifically, we demonstrate that incorporating the noise or interference signal as a low-rank component in our models is essential in a multi-sensor classification problem when multiple co-located sources/sensors simultaneously record the same physical event. We further extend our frameworks to kernelized models which rely on sparsely representing a test sample in terms of all the training samples in a feature space induced by a kernel function. A fast and efficient algorithm based on alternative direction method is proposed where its convergence to an optimal solution is guaranteed. Extensive experiments are conducted on several real multi-sensor data sets and results are compared with the conventional classifiers to verify the effectiveness of the proposed methods.

研究动机与目标

• 开发一个统一的协作多传感器分类框架，利用传感器之间的联合稀疏性以及每个传感器观测数据内部的稀疏性。
• 增强对两类常见噪声的鲁棒性：稀疏噪声和共置传感器产生的低秩干扰信号。
• 引入组稀疏正则化，以利用传感器组之间的结构化稀疏模式。
• 将框架扩展到核诱导的特征空间，以提升非线性判别能力。
• 设计一种基于交替方向乘子法（ADMM）的快速、收敛的优化算法。

提出的方法

• 构建一个多传感器联合稀疏表示（MS-JSR）模型，对所有传感器施加行稀疏性约束，并对每个传感器的数据内部也施加行稀疏性。
• 将MS-JSR扩展以处理稀疏噪声（MS-JSR+E）和低秩干扰（MS-JSR+L），将干扰建模为低秩矩阵。
• 引入组稀疏正则化（MS-GJSR+L），以同时强制实现块稀疏和行稀疏的系数结构。
• 应用核映射，隐式地在非线性特征空间中表示数据，从而得到MS-KerJSR和MS-KerGJSR+L模型。
• 开发一种基于ADMM的优化算法，具有收敛性保证，用于求解非凸且具有结构化稀疏正则化的优化问题。
• 通过变量分裂和增广拉格朗日技术，将问题分解为可通过闭式更新求解的子问题。

实验结果

研究问题

• RQ1 在多传感器系统中，跨多个异构传感器的联合稀疏性是否能提升分类性能？
• RQ2 对共置传感器产生的低秩干扰进行建模，如何增强多传感器分类的鲁棒性？
• RQ3 与标准稀疏模型相比，引入组稀疏正则化在多大程度上能提升分类准确率？
• RQ4 在非线性可分数据场景下，核化稀疏表示是否能带来更好的判别能力？
• RQ5 所提出的基于ADMM的算法是否能保证收敛到结构化稀疏问题的驻定解？

主要发现

• 所提出的MS-JSR+L模型通过显式建模低秩干扰，显著提升了分类准确率，而这类干扰在共置传感器记录中十分常见。
• 组稀疏正则化的集成（MS-GJSR+L）优于仅使用行稀疏或块稀疏模型，因其能更有效地建模传感器数据的结构特征。
• 核化扩展（MS-KerGJSR+L）在非线性可分数据上优于线性模型，证明了非线性特征映射的优势。
• 基于ADMM的算法收敛至驻定解，其收敛性分析基于变量序列和次梯度条件，已得到理论证明。
• 在真实多传感器数据集上的实验表明，所提模型始终优于SVM等传统分类器以及传统稀疏表示方法。
• 实验验证了对稀疏噪声和低秩干扰的鲁棒性，其中低秩模型在真实多传感器场景中表现出特别有效的性能。