[論文レビュー] Constrained Contrastive Distribution Learning for Unsupervised Anomaly Detection and Localisation in Medical Images

Yu Tian, Guansong Pang+6 more|arXiv (Cornell University)|Mar 5, 2021

Anomaly Detection Techniques and Applications参考文献 48被引用数 5

ひとこと要約

本稿では、医用画像における教師なし異常検出および局所化のための自己教師付き表現学習手法である制約付き対応分布学習（CCD）を提案する。強化とピクセル位置に関する事前学習制約を統合的に最適化することで、微細な正常性の表現を学習し、微小な病変の検出性能を顕著に向上させる。Hyper-Kvasirで97.2%という最先端のAUCスコアを達成し、3つの医用画像ベンチマークで先行SOTA手法を上回る性能を示した。

ABSTRACT

Unsupervised anomaly detection (UAD) learns one-class classifiers exclusively with normal (i.e., healthy) images to detect any abnormal (i.e., unhealthy) samples that do not conform to the expected normal patterns. UAD has two main advantages over its fully supervised counterpart. Firstly, it is able to directly leverage large datasets available from health screening programs that contain mostly normal image samples, avoiding the costly manual labelling of abnormal samples and the subsequent issues involved in training with extremely class-imbalanced data. Further, UAD approaches can potentially detect and localise any type of lesions that deviate from the normal patterns. One significant challenge faced by UAD methods is how to learn effective low-dimensional image representations to detect and localise subtle abnormalities, generally consisting of small lesions. To address this challenge, we propose a novel self-supervised representation learning method, called Constrained Contrastive Distribution learning for anomaly detection (CCD), which learns fine-grained feature representations by simultaneously predicting the distribution of augmented data and image contexts using contrastive learning with pretext constraints. The learned representations can be leveraged to train more anomaly-sensitive detection models. Extensive experiment results show that our method outperforms current state-of-the-art UAD approaches on three different colonoscopy and fundus screening datasets. Our code is available at https://github.com/tianyu0207/CCD.

研究の動機と目的

• 正常な訓練データのみを用いて微小な異常を検出する課題に対処すること。
• 異常検出に特化した事前学習タスクを設計することで、教師なし異常検出（UAD）の自己教師付き表現学習を向上させること。
• 微小な病変に敏感な、判別性の高い正常性の表現を学習すること。
• アーキテクチャの変更を要せず、多様な下流UADモデルに効果的に転送可能な事前学習手法を開発すること。
• 複数の医用画像データセットにおいて、異常検出および局所化の両面で最先端の性能を達成すること。

提案手法

• CCDは、正常画像の強化された視覚的ビューを比較することで、対応分布学習を用い、正常パターンの判別性の高い分布を学習する。
• 2つの事前学習制約を導入する：(1) 画像に適用された強化の種別を予測すること、(2) ピクセルパッチをシャッフルした後の空間的位置を予測すること。
• 対応分布損失、強化タイプ予測損失、ピクセル位置予測損失の3つの損失を同時に最適化する。
• フレームワークは正常画像のみで事前学習され、得られた特徴量は下流のUADモデル（IGD、F-anoGAN、MS-SSIMなど）と微調整される。
• 下流の異常検出器に依存しないため、さまざまなUADアーキテクチャへの転送が可能である。
• 推論時、事前学習済み特徴量を用いて再構成誤差または異常スコアに基づき、異常を再構成または検出する。

実験結果

リサーチクエスチョン

• RQ1 事前学習制約を組み込んだ対応分布学習は、医用画像における微小な異常の検出に向けた自己教師付き表現学習を向上させることができるか？
• RQ2 強化タイプの予測とピクセル位置の予測を同時に最適化することで、標準的な対応学習に比べてより判別性の高い正常性表現が得られるか？
• RQ3 提案手法の自己教師付き事前学習は、多様な教師なし異常検出モデルおよびデータセットで最先端の性能を達成できるか？
• RQ4 AUCおよび局所化IoUの観点から、完全に教師ありの手法や先行の教師なし手法と比較して、本手法の性能はどの程度か？
• RQ5 事前学習段階で異常データを一切使用しない場合、完全に教師ありのベースラインと比較して検出性能にどの程度の影響が生じるか？

主な発見

• IGD異常検出器を用いた場合、CCDはコロノスコピー画像データセットHyper-Kvasirで97.2%という最先端のAUCを達成し、先行SOTA手法を上回った。
• アブレーションスタディの結果、分布対応損失を追加することで、標準的な対応学習に比べてAUCが2.4%向上し、2つの事前学習制約を追加することでさらに2.7%および0.8%の向上が得られた。
• Liuらのコロノスコピー画像データセットでは、IGD検出器と組み合わせた場合、ベースラインAUCが12.2%向上した。
• LAG網膜画像データセットでは、IGD検出器を用いた場合、ベースラインAUCが7.8%向上し、87.4%のAUCを達成した。
• 異常局所化において、Hyper-Kvasirで平均IoUが0.372を達成し、SOTAのCAVGA-Ru手法を3%以上上回った。
• 事前学習段階で異常データを一切使用しなくても、完全に教師ありのU-Netベースのモデルと比較して、局所化性能は0.3–0.4IoUの低下にとどまった。