[論文レビュー] Deep One-Class Classification via Interpolated Gaussian Descriptor

Yuanhong Chen, Yu Tian+2 more|arXiv (Cornell University)|Jan 25, 2021

Anomaly Detection Techniques and Applications被引用数 13

ひとこと要約

本稿では、敵対的補間されたサンプル上でガウス異常分類器を訓練することで、正常性の記述を向上させる、一クラス分類の新規モデルである補間ガウス記述子（IGD）を提案する。この手法により、小規模または汚染された訓練データセットに対しても耐性が向上する。IGDは、MNIST、CIFAR10、MVTec AD、医療データセットを含む多様なベンチマークで最先端の性能を達成し、分布シフト下でも検出精度と安定性に優れる。

ABSTRACT

One-class classification (OCC) aims to learn an effective data description to enclose all normal training samples and detect anomalies based on the deviation from the data description. Current state-of-the-art OCC models learn a compact normality description by hyper-sphere minimisation, but they often suffer from overfitting the training data, especially when the training set is small or contaminated with anomalous samples. To address this issue, we introduce the interpolated Gaussian descriptor (IGD) method, a novel OCC model that learns a one-class Gaussian anomaly classifier trained with adversarially interpolated training samples. The Gaussian anomaly classifier differentiates the training samples based on their distance to the Gaussian centre and the standard deviation of these distances, offering the model a discriminability w.r.t. the given samples during training. The adversarial interpolation is enforced to consistently learn a smooth Gaussian descriptor, even when the training data is small or contaminated with anomalous samples. This enables our model to learn the data description based on the representative normal samples rather than fringe or anomalous samples, resulting in significantly improved normality description. In extensive experiments on diverse popular benchmarks, including MNIST, Fashion MNIST, CIFAR10, MVTec AD and two medical datasets, IGD achieves better detection accuracy than current state-of-the-art models. IGD also shows better robustness in problems with small or contaminated training sets. Code is available at https://github.com/tianyu0207/IGD.

研究の動機と目的

• 訓練データが小規模または異常で汚染されている場合に、最先端の一クラス分類（OCC）モデルが過学習するのを緩和すること。
• 端縁部や異常なサンプルではなく、中心部の正常なサンプルに注目することで、より強固で代表的な正常性記述を学習すること。
• 滑らかさと一般化性能を保証する理論的裏付けのある最適化フレームワークを構築すること。
• 実際の産業的・医療的応用で一般的なデータ不足や汚染状況下でのOCCモデルの耐性を評価すること。

提案手法

• IGDは、表現空間内でのガウス中心からの距離と距離の標準偏差に基づいて、サンプルをスコア化する一クラスガウス異常分類器を導入する。
• 敵対的補間を用いて、正常なデータポイントの間に合成された訓練サンプルを生成し、学習された正常性記述子の滑らかさを強制する。
• 確率的定式化から導出された期待値最大化（EM）アルゴリズムを用いてモデルを最適化し、定常解への収束を保証する。
• さらに表現空間の正則化と一般化性能の向上を図るため、マルチスケールの構造的および非構造的画像再構成損失を組み込む。
• モデルが単一の点に収束するのを防ぐために、意味のある多次元の正常性記述を学習する制約を課す。
• 補間および最適化の過程で代表的な正常サンプルに注目することで、データ汚染および低ショット状況に対しても耐性を持つように設計されている。

実験結果

リサーチクエスチョン

• RQ1 敵対的補間は、小規模または汚染された訓練データセットを前提とした一クラス分類器の耐性を向上させ得るか？
• RQ2 距離と分散のモデリングを組み合わせたガウスベースの異常分類器は、DSVDDのような超球ベースのモデルよりも異常検出精度で優れるか？
• RQ3 補間されたガウス記述子のEMベース最適化は、一般化性能の向上と過学習の防止にどの程度寄与するか？
• RQ4 IGDは、画像分類、産業的欠陓検出、医療画像分野を含む多様な分野において、分布シフト下でもどの程度の性能を示すか？

主な発見

• CIFAR10で1%の異常汚染下において、IGDは平均テストAUC 0.8252を達成し、DSVDD（0.7502）およびDSVDD+REC（0.7694）を上回る。
• MVTec ADで10%の汚染下において、IGDはAUC 0.9363を達成し、DSVDD（0.8175）およびDSVDD+REC（0.7687）を著しく上回る。
• CIFAR10訓練データの20%のみを用いた場合、IGDは高い性能（AUC ~0.81）を維持するが、DSVDDおよびDSVDD+RECは急激に低下する。
• 汚染下におけるIGDの性能変動は最小限（CIFAR10で最大1.3%、MVTecで0.44%）であり、DSVDDは7.8%、DSVDDは3.5%の変動を示す。
• 医療データセットおよびハイレゾのHyper-Kvasirにおいて、IGDは93.7%のAUCを達成し、CSI（91.6%）を上回り、PANDAやDROCの主要ベンチマークで同等または上回る。
• IGDは低データおよび汚染データ環境下でも優れた耐性を示し、実世界の産業的・臨床的応用に適している。