[論文レビュー] AnomalyHop: An SSL-based Image Anomaly Localization Method

Kaitai Zhang, Bin Wang+4 more|arXiv (Cornell University)|May 8, 2021

Anomaly Detection Techniques and Applications参考文献 47被引用数 6

ひとこと要約

AnomalyHop は、自己教師学習（SSL）に基づく画像異常局所化手法であり、特徴抽出に逐次部分空間学習（SSL）を用い、正常な特徴の分布をガウス分布でモデル化し、異常マップの統合によって局所化を実現する。MVTec AD データセットにおいて、外部学習データなしで 95.9% の ROC-AUC を達成し、1枚あたり 0.24 秒の高速推論（推論速度）と低コストなモデル構成（100Kパラメータ）を実現しており、深層学習ベースの手法に比べて数学的透明性と効率性に優れる。

ABSTRACT

An image anomaly localization method based on the successive subspace learning (SSL) framework, called AnomalyHop, is proposed in this work. AnomalyHop consists of three modules: 1) feature extraction via successive subspace learning (SSL), 2) normality feature distributions modeling via Gaussian models, and 3) anomaly map generation and fusion. Comparing with state-of-the-art image anomaly localization methods based on deep neural networks (DNNs), AnomalyHop is mathematically transparent, easy to train, and fast in its inference speed. Besides, its area under the ROC curve (ROC-AUC) performance on the MVTec AD dataset is 95.9%, which is among the best of several benchmarking methods. Our codes are publicly available at Github.

研究の動機と目的

• 異常データが限られている、あるいは存在しない学習データ環境における画像異常局所化の課題に取り組む。
• 数学的に解釈可能な手法を構築し、大規模な事前学習済み深層ネットワークに依存せずに、高速な推論と高い有効性を実現する。
• GPUアクセラレーションが不適切な実世界のエッジ環境での効率的で実用的なデプロイを可能にする。
• 外部事前学習を必要とせず、多様な正常画像コンテンツ（例：テクスチャ、物体）に一般化できる。
• 同等またはそれ以上の性能を示しながら、複雑な DNN ベースの異常局所化モデルの軽量代替案を提供する。

提案手法

• 短距離、中距離、長距離の近傍領域に対して PCA を用いた c/w Saab フィルタを適用することで、逐次部分空間学習（SSL）を用いて正常画像から階層的特徴を抽出する。
• 画像クラスの特性に応じて選択された、位置に依存する、位置に依存しない、自己参照の3種類のガウスモデルを用いて、正常特徴の分布をモデル化する。
• 学習済みのガウスモデルを用いて、入力と再構成された特徴の画素単位の再構成誤差を計算することで、異常マップを生成する。
• 異なる特徴レベルからの複数の異常マップを、学習済みまたは固定の統合戦略を用いて統合し、局所化精度を向上させる。
• CPU でも高速な学習・推論が可能な、わずか 100K パラメータの軽量特徴抽出器（PixelHop++）を採用する。
• クラスごとにガウスモデルの種別を適応：物体クラスには位置に依存するモデル、均一なテクスチャには位置に依存しないモデル、グリッドのような構造的パターンには自己参照モデルを適用する。

実験結果

リサーチクエスチョン

• RQ1 外部事前学習を一切行わない、逐次部分空間学習に基づく自己教師学習フレームワークが、画像異常局所化で最先端の性能を達成できるか？
• RQ2 位置に依存する、位置に依存しない、自己参照の3種類のガウスモデルの選択が、異なる画像カテゴリにおける局所化性能に与える影響はいかほどか？
• RQ3 軽量で DNN を使用しないモデルが、推論速度とモデル効率性において、深層学習ベースの手法を上回れる程度はどの程度か？
• RQ4 ドメイン特化のファインチューニングなしで、テクスチャ、物体、構造的パターンといった多様な正常画像コンテンツに、AnomalyHop はどの程度一般化できるか？
• RQ5 数学的に透明で、エンドツーエンドではない手法が、複雑でブラックボックスな DNN ベースの手法と比較して、競争力のある性能を発揮できるか？

主な発見

• AnomalyHop は、外部学習データなしで MVTec AD データセットにおいて 95.9% の ROC-AUC スコアを達成し、最も優れた性能を示す手法の一つにランクインしている。
• 比較対象のすべての手法の中で最も高速な推論速度を達成しており、CPU 上で 1枚あたり 0.24 秒（PaDiM より 28.3 倍、SPADE より 28 倍高速）を実現している。
• 学習時間も非常に効率的で、標準 CPU 上でクラスあたりわずか 2 分で学習が完了し、低コストな学習オーバーヘッドを実現している。
• 自己参照ガウスモデルは、回転や照明の変動が大きいグリッドクラスで最良の性能を示しており、物体クラスでは位置に依存するモデルが最適である。
• 物体クラスとテクスチャクラスの両方で安定した性能を発揮しており、全クラス平均で AUC-ROC 95.7%、物体クラスでは 96.7% を達成している。
• 100K パラメータの軽量特徴抽出器（PixelHop++）を採用しているにもかかわらず、6000万パラメータの PaDiM よりも推論速度とモデル効率性において優れている。