[論文レビュー] Self-Supervised Out-of-Distribution Detection and Localization with Natural Synthetic Anomalies (NSA).

Hannah M. Schlüter, Jeremy Tan+2 more|arXiv (Cornell University)|Sep 30, 2021

Anomaly Detection Techniques and Applications参考文献 25被引用数 14

ひとこと要約

本論文では、ポアソン編集を用いてスケーリングされた画像パッチを合成することで、現実的でシームレスな合成異常を生成する自己教師あり手法であるNatural Synthetic Anomalies (NSA) を提案する。正常データのみで訓練されたモデルは、MVTec AD で 97.2% の AUROC を達成し、事前学習を行わないあらゆる先行自己教師あり手法を上回り、未学習の製造欠陋にも良好に一般化する。

ABSTRACT

We introduce a new self-supervised task, NSA, for training an end-to-end model for anomaly detection and localization using only normal data. NSA uses Poisson image editing to seamlessly blend scaled patches of various sizes from separate images. This creates a wide range of synthetic anomalies which are more similar to natural sub-image irregularities than previous data-augmentation strategies for self-supervised anomaly detection. We evaluate the proposed method using natural and medical images. Our experiments with the MVTec AD dataset show that a model trained to localize NSA anomalies generalizes well to detecting real-world a priori unknown types of manufacturing defects. Our method achieves an overall detection AUROC of 97.2 outperforming all previous methods that learn from scratch without pre-training datasets.

研究の動機と目的

• 多様な異常データにアクセスできない状況下で、合成異常を用いた自己教師ありタスクを導入することで、異常検出モデルの訓練に取り組む。
• 従来のデータ拡張技術と比較して、合成異常の現実性と一般化性能を向上させる。
• 正常画像のみを用いて、異常検出および局所化のエンドツーエンド訓練を可能にする。
• 自然画像および医用画像の両方で手法を評価し、分野を越えた堅牢性を示す。
• 外部データセットでの事前学習なしに、MVTec AD ベンチマークで最先端の性能を達成する。

提案手法

• 異なる画像からランダムに選択したパッチを、ポアソン画像編集を用いてターゲット画像に合成することで、合成異常を生成する。
• さまざまなサイズのパッチを用いることで、自然な部分画像の不規則性に類似した多様な異常パターンを生成する。
• 深層学習モデルをエンドツーエンドで訓練し、自己教師あり事前学習中にこれらの合成異常を検出および局所化する。
• ブレンドタスクから正常画像の構造を学習できる能力を活用し、推論時にずれを特定できるようにする。
• 対照的学習の目的関数を用いて、正常領域と合成異常領域を区別するようモデルを促進する。
• 微調整なしに、学習で得た正常パターンの一般化に基づいて、実世界の分布外データに適用する。

実験結果

リサーチクエスチョン

• RQ1 ポアソンブレンドを用いて生成された合成異常は、自己教師あり異常検出における標準的なデータ拡張と比較して、現実の異常をよりよく模倣できるか？
• RQ2 自然な合成異常で訓練されたモデルは、トレーニング時に見られなかった未確認の欠陋タイプに対してもゼロショット一般化性能を向上させるか？
• RQ3 正常データのみでエンドツーエンド訓練されたモデルは、外部データセットでの事前学習なしに、異常検出ベンチマークで最先端の性能を達成できるか？
• RQ4 NSA手法の性能は、既存の自己教師ありおよび弱教師ありアプローチと比較して、標準ベンチマークでどのように差がつくか？
• RQ5 NSAが生成する合成異常は、自然画像および医用画像の現実の異常の特徴をどの程度反映しているか？

主な発見

• NSA手法は、MVTec AD データセットで全体の検出 AUROC 97.2% を達成し、事前学習なしに学習を開始するあらゆる先行自己教師あり手法を上回った。
• NSA異常で訓練されたモデルは、トレーニング中に見られなかった実際の未知の製造欠陋タイプに対しても、効果的に一般化して検出できる。
• ポアソンブレンドによる合成異常は、標準的なデータ拡張手法よりも現実的で意味的に整合性が高く、モデルの一般化性能が向上した。
• 本手法は、複数の異常検出ベンチマークで優れた性能を示し、自然画像および医用画像の両分野で堅牢性を示した。
• NSAを用いた自己教師あり訓練により、モデルは正常画像構造の豊かな表現を学習でき、検出および局所化の精度が向上した。
• 事前学習を用いる既存の自己教師あり手法ですら、NSAの訓練目的の有効性を上回ることができず、NSAの優位性が顕著に示された。