[論文レビュー] Collaborative Multi-sensor Classification via Sparsity-based Representation

Minh N. Dao, Nam H. Nguyen+2 more|arXiv (Cornell University)|Oct 29, 2014

Sparse and Compressive Sensing Techniques参考文献 34被引用数 4

ひとこと要約

本稿では、異種センサー間で行方向スパarsityとブロックスパarsityを同時に強制し、スパースノイズと低ランク干渉を頑健にモデル化する共同スパース表現フレームワークを提案する。MS-JSR、MS-JSR+E、MS-JSR+L、およびカーネル化されたバージョン（MS-KerJSR、MS-KerGJSR+L）を導入し、収束が保証されるADMMに基づくアルゴリズムで最適化することで、従来手法に比べて実マルチセンサーデータセットにおいて優れた分類精度を達成した。

ABSTRACT

In this paper, we propose a general collaborative sparse representation framework for multi-sensor classification, which takes into account the correlations as well as complementary information between heterogeneous sensors simultaneously while considering joint sparsity within each sensor's observations. We also robustify our models to deal with the presence of sparse noise and low-rank interference signals. Specifically, we demonstrate that incorporating the noise or interference signal as a low-rank component in our models is essential in a multi-sensor classification problem when multiple co-located sources/sensors simultaneously record the same physical event. We further extend our frameworks to kernelized models which rely on sparsely representing a test sample in terms of all the training samples in a feature space induced by a kernel function. A fast and efficient algorithm based on alternative direction method is proposed where its convergence to an optimal solution is guaranteed. Extensive experiments are conducted on several real multi-sensor data sets and results are compared with the conventional classifiers to verify the effectiveness of the proposed methods.

研究の動機と目的

• 複数の異種センサー間でスパース性を統合的に活用するとともに、各センサーの観測値内でもスパース性を保証する統一されたフレームワークを構築すること。
• 共位置するセンサーからの低ランク干渉信号とスパースノイズという2つの一般的なノイズタイプに対して、より高い頑健性を実現すること。
• グループスパース正則化を統合し、センサー群全体における構造的スパースパターンを活用すること。
• 非線形分類性能の向上を目的として、フレームワークをカーネル誘導された特徴空間へ拡張すること。
• 交替方向乗数法（ADMM）に基づく高速かつ収束保証付きの最適化アルゴリズムを設計すること。

提案手法

• 全センサーにわたる行方向スパarsity制約と、各センサーのデータ内でのスパarsity制約を備えたマルチセンサー共同スパース表現（MS-JSR）モデルを定式化する。
• スパースノイズ（MS-JSR+E）と低ランク干渉（MS-JSR+L）を処理できるようにMS-JSRを拡張し、干渉を低ランク行列としてモデル化する。
• ブロックスパースと行スパースの両方の係数構造を強制するため、グループスパース正則化（MS-GJSR+L）を導入する。
• カーネルマッピングを適用して、非線形特徴空間へのデータの暗黙的表現を実現し、MS-KerJSRおよびMS-KerGJSR+Lモデルを導出する。
• 非凸かつ構造的スパース正則化付きの問題を解くために、収束保証付きのADMMに基づく最適化アルゴリズムを開発する。
• 変数分割と増加ラグランジュ法を用いて、閉形式更新が可能な部分問題に問題を分解する。

実験結果

リサーチクエスチョン

• RQ1 複数の異種センサー間で共同スパース性を活用することで、マルチセンサー系における分類性能が向上するか？
• RQ2 共位置するセンサーからの低ランク干渉をモデル化することで、マルチセンサー分類における頑健性がどのように向上するか？
• RQ3 グループスパース正則化を統合することで、標準的なスパースモデルに比べて分類精度がどの程度向上するか？
• RQ4 特徴空間におけるカーネル化されたスパース表現は、非線形分離可能なデータ環境でより優れた識別性能をもたらすか？
• RQ5 提案されたADMMベースのアルゴリズムは、構造的スパース問題に対して、定常解に収束することが保証されるか？

主な発見

• 提案されたMS-JSR+Lモデルは、共位置するセンサー記録に一般的に見られる低ランク干渉を明示的にモデル化することで、分類精度を顕著に向上させた。
• グループスパース正則化（MS-GJSR+L）の統合により、単独での行スパースまたはブロックスパースモデルよりも優れた性能が得られ、センサーデータの構造的モデリングが強化された。
• カーネル化された拡張（MS-KerGJSR+L）は、非線形分離可能なデータに対して線形モデルを上回る性能を示し、非線形特徴マッピングの利点を実証した。
• 変数列と部分勾配条件を用いた収束解析により、ADMMベースのアルゴリズムが定常解に収束することが証明された。
• 実マルチセンサーデータセットを用いた実験では、SVM や従来のスパース表現手法といった従来手法に比べ、提案モデルが一貫して優れた性能を示した。
• スパースノイズと低ランク干渉の両方に対する頑健性が実証され、特に低ランクモデルが実世界のマルチセンサー環境において顕著な有効性を示した。