[論文レビュー] Self-Supervised Out-of-Distribution Detection in Brain CT Scans

Abinav Ravi Venkatakrishnan, Seong Tae Kim+3 more|arXiv (Cornell University)|Nov 10, 2020

Anomaly Detection Techniques and Applications参考文献 15被引用数 7

ひとこと要約

本論文は、再構成ベースのオートエンコーダーと幾何的変換予測を組み合わせることで、分布外検出性能を向上させる自己教師あり異常検出フレームワークを提案する。コンテキスト回復の事前学習と再構成および空間的変換予測の共同最適化により、臨床データ上で最先端のAUROC（0.822）とAUPR（0.868）を達成し、従来の教師なし手法を上回った。

ABSTRACT

Medical imaging data suffers from the limited availability of annotation because annotating 3D medical data is a time-consuming and expensive task. Moreover, even if the annotation is available, supervised learning-based approaches suffer highly imbalanced data. Most of the scans during the screening are from normal subjects, but there are also large variations in abnormal cases. To address these issues, recently, unsupervised deep anomaly detection methods that train the model on large-sized normal scans and detect abnormal scans by calculating reconstruction error have been reported. In this paper, we propose a novel self-supervised learning technique for anomaly detection. Our architecture largely consists of two parts: 1) Reconstruction and 2) predicting geometric transformations. By training the network to predict geometric transformations, the model could learn better image features and distribution of normal scans. In the test time, the geometric transformation predictor can assign the anomaly score by calculating the error between geometric transformation and prediction. Moreover, we further use self-supervised learning with context restoration for pretraining our model. By comparative experiments on clinical brain CT scans, the effectiveness of the proposed method has been verified.

研究の動機と目的

• 臨床スキャンにおけるアノテート済み3次元医療画像データの不足と、正常例が著しく異常例を上回るクラス不均衡の課題に対処すること。
• 手動アノテーションに依存しない自己教師あり異常検出手法の開発を目的とし、データの内在的構造を活用すること。
• 局所的再構成誤差とグローバルな幾何的変換予測を組み合わせることで、微細な特徴と文脈的特徴の両方を捉えることにより、検出性能の向上を図ること。
• 多様な異常例を含む実臨床脳CTスキャン上で、本手法の有効性を検証すること。

提案手法

• 入力画像のパッチを入れ替え、元の画像を再構成できるようにVAEを学習することで、健康なスキャンから汎用的な特徴を学ぶ、コンテキスト回復による事前学習。
• 2つの出力ヘッドを備えたマルチタスク学習フレームワークを導入：1つは画像再構成（VAE）、もう1つは適用された幾何的変換（回転／平行移動）の予測。
• 幾何的変換ヘッドを、0°、90°、180°、270°、および±1/8の平行移動のうちの1つを予測する交差エントロピー損失で学習。
• 両ヘッドからの異常スコアを、ハイパーパrameter λ = 0.5 で正規化された重み付き平均化により統合。再構成スコアは α でスケーリングされ、幾何的予測スコアは可能な変換の平均化が行われる。
• 両タスクに共通のエンコーダーを採用することで、再構成と変換予測の両方に有益な特徴抽出が可能になる。
• テスト時、再構成誤差と変換予測誤差に基づいて異常スコアを割り当て、誤差が大きいほど分布外である可能性が高くなるようにする。

実験結果

リサーチクエスチョン

• RQ1 コンテキスト回復による自己教師あり事前学習は、脳CTスキャンにおける異常検出のための特徴学習を向上させることができるか？
• RQ2 再構成と幾何的変換予測を同時に学習することで、単一タスク手法と比較して検出性能が向上するか？
• RQ3 局所的（再構成）とグローバル（変換予測）の異常信号の統合は、検出精度にどのように影響するか？
• RQ4 提案されたマルチタスクフレームワークにおいて、分類性能とセグメンテーション局在化の間にはどのようなトレードオフが生じるか？

主な発見

• 提案されたマルチタスクフレームワークは、AUROC 0.822、AUPR 0.868 を達成し、VAE（AUROC: 0.668） や Context-encoding VAE（AUROC: 0.766）といった従来手法を著しく上回った。
• コンテキスト回復による事前学習は、標準VAEよりも性能を向上させ、AUROCは 0.668 から 0.673 に、AUPRは 0.704 から 0.772 に向上した。
• 事前学習後に再構成損失のみを用いたモデル（VAE with Pretraining）は、ベースラインVAEよりも性能が向上しており、自己教師あり事前学習の有効性を裏付けた。
• 分類性能は向上したが、セグメンテーション性能（DSC: 0.086 ± 0.024）は他の手法よりわずかに劣っており、検出と局在化の間のトレードオフが示された。
• 幾何的変換ヘッドは異常検出に有意に寄与しており、局所的再構成誤差とは相補的な強力なグローバルな異常信号を提供した。
• 本手法は、正常スキャンでのみ学習されたにもかかわらず、萎縮、頭蓋内出血、虚血、腫瘍など多様な異常例に対して優れた一般化性能を示した。