[論文レビュー] General Purpose (GenP) Bioimage Ensemble of Handcrafted and Learned Features with Data Augmentation

Loris Nanni, Sheryl Brahnam+2 more|arXiv (Cornell University)|Apr 17, 2019

Image Processing Techniques and Applications参考文献 80被引用数 17

ひとこと要約

本稿では、手作業で特徴を抽出する手法、畳み込みニューラルネットワーク（CNN）を用いた深層学習、およびPCA/DCTに基づくデータ拡張を組み合わせることで、バイオイメージ分類で最先端の性能を達成する汎用的（GenP）バイオイメージアンサンブルを提案する。多様な記述子をサポートベクターマシン（SVM）アンサンブルとCNNアンサンブルに統合し、新しいデータ拡張技術を適用することで、データセット固有のハイパーパrameterチューニングを必要とせず、過学習のリスクを最小限に抑えた高精度な分類が実現された。

ABSTRACT

Bioimage classification plays a crucial role in many biological problems. In this work, we present a new General Purpose (GenP) ensemble that boosts performance by combining local features, dense sampling features, and deep learning approaches. First, we introduce three new methods for data augmentation based on PCA/DCT; second, we show that different data augmentation approaches can boost the performance of an ensemble of CNNs; and, finally, we propose a set of handcrafted/learned descriptors that are highly generalizable. Each handcrafted descriptor is used to train a different Support Vector Machine (SVM), and the different SVMs are combined with the ensemble of CNNs. Our method is evaluated on a diverse set of bioimage classification problems. Results demonstrate that the proposed GenP bioimage ensemble obtains state-of-the-art performance without any ad-hoc dataset tuning of parameters (thus avoiding the risk of overfitting/overtraining).

研究の動機と目的

• データセット固有のハイパーパrameterチューニングを回避する、バイオイメージ分類の汎用的フレームワークの開発を目的とする。
• 手作業特徴とディープラーニングモデルを統合することで、分類性能の向上を図ることを目的とする。
• PCAおよびDCTに基づく新しいデータ拡張技術を導入し、モデルのロバスト性を向上させることを目的とする。
• 多様な生物学的画像データセットに適用可能な、非常に汎用性の高い特徴記述子セットの構築を目的とする。
• SVMとCNNのアンサンブルを用いて、複数のバイオイメージベンチマークで最先端の性能を実証することを目的とする。

提案手法

• PCAおよびDCTに基づく、訓練データの多様性を高めるための3つの新しいデータ拡張手法を提案する。
• 局所的および密なサンプリング特徴を用いて、バイオイメージから豊富な空間パターンを抽出する。
• 個々の手作業特徴記述子に対して別個のサポートベクターマシン（SVM）を訓練し、分類の堅牢性を高める。
• 複数の事前学習済みCNNをアンサンブル化することで、一般化性能と予測精度を向上させる。
• アンサンブルフレームワーク内での早期統合または後期統合戦略を用いて、手作業特徴と深層特徴を統合する。
• データセット固有のハイパーパrameterチューニングを一切行わず、複数のバイオイメージデータセットにわたってアンサンブルアプローチを適用する。

実験結果

リサーチクエスチョン

• RQ1 統一されたアンサンブルとしての手作業特徴と学習特徴の組み合わせは、多様なデータセットにおけるバイオイメージ分類性能の向上を実現できるか？
• RQ2 PCAおよびDCTに基づくデータ拡張技術は、バイオイメージ分類器の一般化性能をどのように向上させるか？
• RQ3 異なる手作業特徴記述子で訓練された複数のSVMとCNNアンサンブルを組み合わせることで、個々のモデルよりも優れた結果が得られるか？
• RQ4 未知のバイオイメージデータセットに適用した場合、汎用的アプローチが過学習をどれほど回避できるか？
• RQ5 各コンポーネント（手作業特徴、学習特徴、拡張済みデータ）が、全体の性能向上に果たす寄与度はどの程度か？

主な発見

• GenPアンサンブルは、データセット固有のハイパーパrameterチューニングを一切行わず、複数のバイオイメージ分類ベンチマークで最先端の性能を達成した。
• 提案されたPCA/DCTに基づくデータ拡張手法は、モデルの一般化性能を顕著に向上させ、過学習を低減した。
• アンサンブルフレームワーク内で手作業特徴記述子と深層CNNを統合することで、個々のモデルよりも高い精度が達成された。
• アンサンブルの各コンポーネント（SVM、CNN、データ拡張）が、最終的な性能向上に有意義に寄与した。
• 顕微鏡画像やヒストパスロジー画像を含む、多様な生物学的画像タイプにわたり、強力な一般化性能を示した。
• データセット固有のチューニングが行われていないため、過学習のリスクが低減されつつ、高い予測精度を維持した。