[論文レビュー] Data refinement for fully unsupervised visual inspection using pre-trained networks

Antoine Cordier, Benjamin Missaoui+1 more|arXiv (Cornell University)|Feb 25, 2022

Industrial Vision Systems and Defect Detection被引用数 8

ひとこと要約

本稿では、事前学習済みネットワークを用いた完全に自己教師あり視覚異常検出のための、単純ながら効果的なデータ精錬戦略SROCを提案する。汚染された訓練データセットから欠陊サンプルを繰り返し特定・削除することで、SROCは顕著な性能回復を達成し、STOCのような複雑なベースラインを上回る。また、埋め込み空間の分布特性により、KNNベースの手法はマハラノビスベースの手法よりも本質的にデータ汚染に対してより頑健であることが示された。

ABSTRACT

Anomaly detection has recently seen great progress in the field of visual inspection. More specifically, the use of classical outlier detection techniques on features extracted by deep pre-trained neural networks have been shown to deliver remarkable performances on the MVTec Anomaly Detection (MVTec AD) dataset. However, like most other anomaly detection strategies, these pre-trained methods assume all training data to be normal. As a consequence, they cannot be considered as fully unsupervised. There exists to our knowledge no work studying these pre-trained methods under fully unsupervised setting. In this work, we first assess the robustness of these pre-trained methods to fully unsupervised context, using polluted training sets (i.e. containing defective samples), and show that these methods are more robust to pollution compared to methods such as CutPaste. We then propose SROC, a Simple Refinement strategy for One Class classification. SROC enables to remove most of the polluted images from the training set, and to recover some of the lost AUC. We further show that our simple heuristic competes with, and even outperforms much more complex strategies from the existing literature.

研究の動機と目的

• 訓練データに欠陊サンプルが含まれる可能性がある完全に自己教師あり設定下で、事前学習特徴に基づく異常検出手法の頑健性を評価すること。
• 既存の文献におけるギャップを埋めるために、汚染されたデータを伴う真の自己教師あり状況における事前学習手法の研究を行うこと。
• 欠陊サンプルを訓練データセットから効果的に削除することで性能を回復する、単純で方法に依存しない精錬戦略（SROC）を提案すること。
• KNNベースの手法がマハラノビスベースの手法よりもデータ汚染に対してなぜより頑健であるかについて、定性的および定量的な洞察を提供すること。

提案手法

• SROCは、事前学習特徴からの異常スコアに基づいて、訓練サンプルをスコア付け・順位付けする異常検出器自体を用いる。
• 繰り返し、最も異常度の高いサンプル（異常スコアが最大のもの）を訓練セットから削除する。
• 精錬された訓練セットを同じ検出器で再評価し、性能向上を評価する。
• 本手法は、KNN、マハラノビス、PaDiM、PatchCoreの4つの事前学習特徴ベースの検出器に適用され、すべてがEfficientNet-B4をバックボーンとして使用する。
• 本手法は下流の異常検出手法に依存しないように設計されており、広範な適用可能性を有する。
• 欠陊サンプルが埋め込み空間で健康なサンプルから遠く離れていることが多く、これにより効果的な分離と削除が可能になるという事実を活用している。

実験結果

リサーチクエスチョン

• RQ1 完全に自己教師あり設定下で、訓練データに欠陊サンプルが含まれる場合、事前学習特徴ベースの異常検出手法はどの程度頑健か？
• RQ2 単純でヒューリスティックに基づく精錬戦略は、自己教師あり視覚検査におけるデータ汚染によって失われた性能を効果的に回復できるか？
• RQ3 なぜKNNベースの手法はマハラノビスベースの手法よりもデータ汚染に対してより頑健か？
• RQ4 SROCは、CutPasteを想定して設計された複雑な精錬戦略STOCを上回る性能回復を達成できるか？
• RQ5 異なる異常検出手法に一般化可能か？特定の手法に特化したチューニングを必要としないか？

主な発見

• MVTec ADデータセットにおいて、訓練データに最大20％の欠陊サンプルが含まれる状況でも、SROCは最大達成可能AUCの80％まで回復できる。
• KNNとPatchCoreは、マハラノビスとPaDiMに比べて顕著に頑健である。これは、特徴空間における欠陊埋め込みのスパarsityに起因する。
• 欠陊サンプル同士の距離は、健康なサンプルとの距離と平均的に同等であるため、近傍探索手法の頑健性が説明できる。
• SROCは、CutPasteを想定して設計された複雑なSTOC戦略を上回り、精錬タスクにおいて単純さが複雑さを凌駆える可能性を示した。
• マハラノビスベースの手法は、汚染の影響で顕著な性能低下を示す。これは、欠陊サンプルが学習された多変量ガウス分布の中心に近づくためである。
• 定性的な分析により、汚染下でマハラノビスの分布が顕著にシフトする一方、KNNベースの手法は安定した近傍構造を維持することが確認された。