[論文レビュー] Manifolds for Unsupervised Visual Anomaly Detection

Louise Naud, Alexander Lavin|arXiv (Cornell University)|Jun 19, 2020

Anomaly Detection Techniques and Applications参考文献 46被引用数 5

ひとこと要約

本稿では、超球面および双曲的多様体を活用して教師なし視覚的異常検出を向上させるためのステレオグラフィック射影変分オートエンコーダー（SP-VAE）を提案する。新規のジロプレーン層を用いたステレオグラフィック射影により、正常および異常データをより明確に分離する滑らかで解釈可能な潜在多様体を学習する。工業的およびヒストパスロジーのベンチマークにおいて最先端の性能を達成し、ラベルなしで脳腫瘍亜型を分類する際のAUCが0.97以上に達する。

ABSTRACT

Anomalies are by definition rare, thus labeled examples are very limited or nonexistent, and likely do not cover unforeseen scenarios. Unsupervised learning methods that don't necessarily encounter anomalies in training would be immensely useful. Generative vision models can be useful in this regard but do not sufficiently represent normal and abnormal data distributions. To this end, we propose constant curvature manifolds for embedding data distributions in unsupervised visual anomaly detection. Through theoretical and empirical explorations of manifold shapes, we develop a novel hyperspherical Variational Auto-Encoder (VAE) via stereographic projections with a gyroplane layer - a complete equivalent to the Poincaré VAE. This approach with manifold projections is beneficial in terms of model generalization and can yield more interpretable representations. We present state-of-the-art results on visual anomaly benchmarks in precision manufacturing and inspection, demonstrating real-world utility in industrial AI scenarios. We further demonstrate the approach on the challenging problem of histopathology: our unsupervised approach effectively detects cancerous brain tissue from noisy whole-slide images, learning a smooth, latent organization of tissue types that provides an interpretable decisions tool for medical professionals.

研究の動機と目的

• 非ユークリッド的リーマン多様体（一定曲率）上でデータ分布をモデル化することにより、教師なし視覚的異常検出を改善すること。
• 平坦なユークリッド空間と比較して、超球面および双曲的潜在空間が、正常およびスパースな異常視覚データをより効果的に表現できるかどうかを調査すること。
• 双曲面、超球面、ポアンカレ球多様体の間で、微分可能かつ可逆な変換（ジロプレーン層を介して）を実現するための非ユークリッド的潜在空間におけるニューラルネットワーク演算を考案すること。
• 線形近似による補正誤差を回避するため、非ユークリッド的潜在空間における信頼性の高い測地線補間を可能にすること。
• 特に全身スライド画像を用いた神経病理学的応用を含め、実世界の産業的および医療AI環境における本手法の有効性を実証すること。

提案手法

• 双曲面と超球面多様体の間を、コンフォーマルで全単射かつ角度を保存するステレオグラフィック射影を用いて、マッピングするステレオグラフィック射影VAEを提案する。
• 非ユークリッド的潜在空間におけるニューラルネットワーク演算を可能にする新規のジロプレーン層を導入し、超球面および双曲幾何を両方サポートする。
• 測地線構造を保持するように、Poincaréマッピングを用いて、正常および異常組織領域間の潜在空間における可視化と補間を実施する。
• 式2による測地線補間を用いて、曲がった経路に沿った現実的な中間サンプルを生成する。これは、ユークリッド的潜在空間における線形補間とは対照的である。
• 学習済み多様体から遠く離れた点（外れ値）を異常と特定することで、教師なし異常検出に本モデルを適用し、特にスパースな領域で有効である。
• 潜在空間からの離散化された異常サンプルを用いて分類器を学習し、下流の性能を評価する。この手法により、ラベルなしで高いAUCが達成される。

実験結果

リサーチクエスチョン

• RQ1 一定曲率を持つリーマン多様体（特に超球面および双曲空間）は、平坦なユークリッド空間と比較して、正常および異常視覚データの埋め込みにより自然かつ効率的であると期待できるか？
• RQ2 双曲面とポアンカレ球、あるいは超球面と射影された球面の間のステレオグラフィック射影は、深層生成モデルにおける表現学習に不可欠な幾何的性質をどのように保持するか？
• RQ3 非ユークリッド的潜在空間における測地線補間は、ユークリッド的空間における線形補間と比較して、より現実的で解釈可能な中間サンプルを生成する程度はどの程度か？
• RQ4 非ユークリッド的潜在空間を備えた自己教師あり教師なしVAEは、複雑でラベルなしのヒストパスロジー画像データを効果的に整理し、任意のアノテーションなしでがん組織を検出できるか？
• RQ5 提案されたSP-VAEは、製造業および医療画像分野における実世界の教師なし視覚的異常検出ベンチマークで最先端の性能を達成するか？

主な発見

• SP-VAEは、精密製造および検査分野における視覚的異常検出ベンチマークで最先端の結果を達成し、先行する教師なし手法を上回る。
• 神経病理学分野では、ラベルなしで脳組織亜型の滑らかで階層的な潜在的組織化を学習し、がん病変の信頼性の高い検出を可能にする。
• ラベルなしの潜在表現のみを用いて、5つの脳腫瘍亜型を分類する際のマルチクラスAUCが0.97を超える。これは、完全に教師ありの最先端手法と同等の性能を達成する。
• 潜在空間における測地線補間は、生物学的に妥当な遷移を反映する現実的な中間組織画像を生成するが、線形補間はぼやけた不自然な合成を生じる。
• 非ユークリッド的空間における測地線の線形近似は、とくにスパースな異常点間の長距離補間において、補正誤差を引き起こす。
• Poincaréマッピングの使用により、正常および異常組織領域の整合的で解釈可能な組織化が明らかになり、臨床的解釈可能性および意思決定支援を支援する。