[論文レビュー] Building pattern recognition applications with the SPARE library

Lorenzo Livi, Guido Del Vescovo+2 more|arXiv (Cornell University)|Oct 20, 2014

Data Management and Algorithms参考文献 39被引用数 8

ひとこと要約

本論文では、テンプレートベースのメタプログラミングを用いて、多次元シーケンスやラベル付きグラフなどの多様なデータ型に対して、パターン認識システムの迅速な開発を可能にするオープンソースC++ライブラリSPAREを提示する。本ライブラリの多様性を実証するための2つの概念実証アプリケーションとして、MinSODを用いた実数値シーケンスのクラスタリングと、グラフマッチングアルゴリズムを用いたラベル付きグラフのk-NN分類を提示し、最適なパrameterチューニングにより最大95%のテスト精度を達成した。

ABSTRACT

This paper presents the SPARE C++ library, an open source software tool conceived to build pattern recognition and soft computing systems. The library follows the requirement of the generality: most of the implemented algorithms are able to process user-defined input data types transparently, such as labeled graphs and sequences of objects, as well as standard numeric vectors. Here we present a high-level picture of the SPARE library characteristics, focusing instead on the specific practical possibility of constructing pattern recognition systems for different input data types. In particular, as a proof of concept, we discuss two application instances involving clustering of real-valued multidimensional sequences and classification of labeled graphs.

研究の動機と目的

• 標準的なベクトル以外のユーザー定義データ型をサポートする、柔軟で汎用的なソフトウェアフレームワークを設計すること。
• 特徴ベクトルへの還元を経ずに、ラベル付きグラフや多次元シーケンスなどの構造化データを直接処理できること。
• テンプレートメタプログラミングを用いた、ポータブルで効率的かつ拡張可能なC++ライブラリを提供し、機械学習システムの迅速プロトタイピングを可能にすること。
• 2つの概念実証アプリケーション（シーケンスのクラスタリングとグラフの分類）を通じて、ライブラリの実用的有用性を示すこと。
• GNU GPL 3.0ライセンスでのリリースを通じて、研究の再現可能性と共同作業を促進すること。

提案手法

• SPAREライブラリは、C++テンプレートメタプログラミングを用いて、ユーザー定義データ型（シーケンスやラベル付きグラフを含む）と透明に連携する汎用的な概念とアルゴリズムを定義する。
• アルゴリズムとデータ構造を分離するためのコンセプトベース設計を採用し、新しいデータ型やアルゴリズムのシームレスな統合を可能にする。
• 最新のハードウェアでのパフォーマンス向上のため、マルチスレッド実装をサポートし、他のC++ライブラリとも相互運用可能である。
• グラフ分類のため、k-NNに複数のグラフマッチングアルゴリズム（例：TWEC、GC、PD6W）を、カスタマイズ可能な類似度測定法を用いて統合する。
• グラフマッチングのパrameter最適化は、検証セットの精度をガイドとして、SPAREに組み込まれた遺伝的アルゴリズムを用いて実施する。
• トレーニングおよび推論のための標準C++イテレータと標準インターフェースを採用し、既存のコードベースへの容易な統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 任意のデータ型、特にグラフやシーケンスのような構造化データを対象とした、汎用的なC++ライブラリを設計できるか？
• RQ2 テンプレートベースのメタプログラミングは、クラスタリングおよび分類タスクにおける非ベクトル型データ型に対して、どのように透明にサポートを可能にするか？
• RQ3 異なるグラフマッチングアルゴリズムを用いて、ラベル付きグラフに直接k-NN分類を適用した場合の性能はどの程度か？
• RQ4 遺伝的アルゴリズムによるグラフマッチングアルゴリズムのパrameterチューニングは、合成グラフデータセットにおける分類精度を向上させることができるか？
• RQ5 SPAREは、パターン認識研究における迅速プロトタイピングと再現可能性をどの程度促進できるか？

主な発見

• SPAREライブラリは、特徴ベクトル化を経ずに、ラベル付きグラフや多次元シーケンスなどの非ベクトル型データを直接処理できることを実証した。
• GCグラフマッチングアルゴリズムを用いたk-NN分類器は、すべてのk値（1, 3, 5）において最高のテスト分類精度を達成し、合成グラフベンチマークでは95%を超える結果を示した。
• TWECおよびPD6Wグラフマッチングアルゴリズムは、GCと同等の精度を示したがわずかに低い結果を示し、TWECは全体的にわずかに優れた性能を示した。
• パrameter最適化に遺伝的アルゴリズムを用いることで、分類精度が顕著に向上し、統合されたメタヒューリスティックフレームワークの有効性が裏付けられた。
• ライブラリの設計は、実装およびテストの両方のシステムに非常に簡素なコード量で拡張・統合が可能であることを示しており、容易な拡張性と統合性を有している。
• GNU GPL 3.0ライセンスでのオープンソースリリースにより、研究の透明性が向上し、学術機関間の共同作業が促進された。