[論文レビュー] Industrial Anomaly Detection and Localization Using Weakly-Supervised Residual Transformers

Hanxi Li, Jingqi Wu+5 more|arXiv (Cornell University)|Jun 6, 2023

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本論文は、位置制約付きパッチマッチング残差とスライディングビジョントランスフォーマーを用いたブロック単位分類により、MVTec-ADで最先端の性能を達成するとともに、顕著に低いアノテーションコストを実現する弱教師付き異常検出および局所化フレームワーク、SemiRESTを提案する。これは、すべての先行手法を上回り、教師なし設定で81.2% AP、教師あり設定で84.4% APを達成しており、完全に教師ありのSOTAでさえも、バウンディングボックスアノテーションのみで上回っている。

ABSTRACT

Recent advancements in industrial anomaly detection (AD) have demonstrated that incorporating a small number of anomalous samples during training can significantly enhance accuracy. However, this improvement often comes at the cost of extensive annotation efforts, which are impractical for many real-world applications. In this paper, we introduce a novel framework, Weak}ly-supervised RESidual Transformer (WeakREST), designed to achieve high anomaly detection accuracy while minimizing the reliance on manual annotations. First, we reformulate the pixel-wise anomaly localization task into a block-wise classification problem. Second, we introduce a residual-based feature representation called Positional Fast Anomaly Residuals (PosFAR) which captures anomalous patterns more effectively. To leverage this feature, we adapt the Swin Transformer for enhanced anomaly detection and localization. Additionally, we propose a weak annotation approach, utilizing bounding boxes and image tags to define anomalous regions. This approach establishes a semi-supervised learning context that reduces the dependency on precise pixel-level labels. To further improve the learning process, we develop a novel ResMixMatch algorithm, capable of handling the interplay between weak labels and residual-based representations. On the benchmark dataset MVTec-AD, our method achieves an Average Precision (AP) of $83.0\%$, surpassing the previous best result of $82.7\%$ in the unsupervised setting. In the supervised AD setting, WeakREST attains an AP of $87.6\%$, outperforming the previous best of $86.0\%$. Notably, even when using weaker annotations such as bounding boxes, WeakREST exceeds the performance of leading methods relying on pixel-wise supervision, achieving an AP of $87.1\%$ compared to the prior best of $86.0\%$ on MVTec-AD.

研究の動機と目的

• 産業用異常検出における高いアノテーションコストを低減しつつ、検出精度を維持または向上させること。
• ピクセル単位のセグメンテーションに依存するのを減らすために、異常局所化をブロック単位分類問題に再定式化すること。
• 異常領域のバウンディングボックスアノテーションのみを用いて、効果的な半教師付き学習を可能にすること。
• 弱教師あり異常検出における未ラベル領域を効果的に活用する、新しい半教師付き学習スキームを開発すること。
• 最小限の監督のもとで、MVTec-AD、BTAD、KSDD2で最先端の性能を達成すること。

提案手法

• 位置制約付きパッチマッチング（PCF）機構により、テスト用とリファレンス用のパッチ間の残差を生成し、空間的整合性を保持することで、異常感度を高める。
• 異常検出タスクを、各ブロックを「通常」「陽性（異常）」「無視（未ラベル）」としてラベルづけするブロック単位の二値分類問題に再定式化することで、アノテーション負荷を軽減する。
• スライディングビジョントランスフォーマー（Swin Transformer）により、これらのブロックレベル特徴を処理し、高い空間的精度で異常スコアを予測する。
• 複数のSwin Transformerヘッドにわたるバギング戦略により、予測パイプラインにおけるロバスト性と一般化性能が向上する。
• カスタマイズされたMixMatchベースの半教師付き学習スキームにより、バウンディングボックスアノテーションから得られる未ラベル領域を活用し、2つの新しいデータオーグメンテーション技術（K-NNベースのオーグメンテーションとランダムドロップアウト）を用いる。
• 教師なしおよび半教師ありの状態では、残差の二乗距離関数を用いて特徴選択を効果的に行い、実際の異常が利用可能な際には絶対差を用いる。

実験結果

リサーチクエスチョン

• RQ1 ブロック単位分類は、精度を損なわせることなく、異常検出におけるアノテーションコストを低減できるか？
• RQ2 位置制約付きパッチマッチングからの残差のみを用いて、スライディングビジョントランスフォーマーが効果的に異常を局所化できるか？
• RQ3 バウンディングボックスアノテーションを用いた半教師付き学習は、完全教師ありの性能に匹敵するか？
• RQ4 カスタマイズされたMixMatchスキームは、弱教師あり異常検出における未ラベル領域を効果的に活用できるか？
• RQ5 提案手法は、教師なしおよび半教師ありの両設定において、既存のSOTA手法を上回ることができるか？

主な発見

• SemiRESTは、教師なし設定でMVTec-ADで81.2%の平均適合率（AP）を達成し、以前のSOTA（75.8% AP）を上回った。
• 完全教師あり設定では、SemiRESTは84.4%のAPを達成し、以前のSOTA（78.6% AP）を上回った。
• バウンディングボックスアノテーションのみで、SemiRESTは83.8%のAPを達成し、完全なピクセル単位の監視を用いた以前のSOTA（78.6% AP）を上回った。
• 本手法は、MVTec-AD、BTAD、KSDD2の3つのベンチマークデータセットにおいても強力な性能を維持し、一般化能力を示した。
• アブレーションスタディにより、PCF、バギング、K-NNオーグメンテーション、MixMatch、ランダムドロップアウトの各コンポーネントが性能向上に寄与していることが確認された。
• 特徴選択の性質のおかげで、二乗距離関数は教師なしおよび半教師あり設定で絶対差を上回る性能を示した。