[论文解读] Self-Supervised Out-of-Distribution Detection in Brain CT Scans

Abinav Ravi Venkatakrishnan, Seong Tae Kim+3 more|arXiv (Cornell University)|Nov 10, 2020

Anomaly Detection Techniques and Applications参考文献 15被引用 7

一句话总结

本文提出了一种用于脑部CT扫描的自监督异常检测框架，结合基于重建的自编码与几何变换预测，以提升分布外检测性能。通过在上下文恢复上进行预训练，并联合优化重建与空间变换预测，该方法在临床数据上实现了最先进的AUROC（0.822）和AUPR（0.868），优于以往的无监督方法。

ABSTRACT

Medical imaging data suffers from the limited availability of annotation because annotating 3D medical data is a time-consuming and expensive task. Moreover, even if the annotation is available, supervised learning-based approaches suffer highly imbalanced data. Most of the scans during the screening are from normal subjects, but there are also large variations in abnormal cases. To address these issues, recently, unsupervised deep anomaly detection methods that train the model on large-sized normal scans and detect abnormal scans by calculating reconstruction error have been reported. In this paper, we propose a novel self-supervised learning technique for anomaly detection. Our architecture largely consists of two parts: 1) Reconstruction and 2) predicting geometric transformations. By training the network to predict geometric transformations, the model could learn better image features and distribution of normal scans. In the test time, the geometric transformation predictor can assign the anomaly score by calculating the error between geometric transformation and prediction. Moreover, we further use self-supervised learning with context restoration for pretraining our model. By comparative experiments on clinical brain CT scans, the effectiveness of the proposed method has been verified.

研究动机与目标

• 解决临床扫描中3D医学影像标注数据有限及类别不平衡的问题，其中正常病例远多于异常病例。
• 开发一种自监督异常检测方法，避免依赖昂贵的人工标注，通过利用数据本身的结构特性。
• 通过结合局部重建误差与全局几何变换预测，提升检测性能，以捕捉细粒度与上下文特征。
• 在包含多种异常情况的真实临床脑部CT扫描上验证该方法的有效性。

提出的方法

• 使用上下文恢复进行模型预训练：将输入图像中的图像块进行互换，并训练变分自编码器（VAE）以重建原始图像，从而从健康扫描中学习可泛化的特征。
• 引入多任务学习框架，包含两个分支：一个用于图像重建（VAE），另一个用于预测应用的几何变换（旋转/平移）。
• 使用交叉熵损失训练几何变换分支，以从一组可能的变换中预测应用的变换（0°、90°、180°、270°，以及±1/8平移）。
• 通过归一化的加权平均合并两个分支的异常分数，超参数λ = 0.5，其中重建分数按α缩放，几何预测分数在所有可能变换上取平均。
• 为两个任务共享编码器，从而实现同时受益于重建与变换预测的特征学习。
• 在测试阶段应用该模型，基于重建误差与变换预测误差分配异常分数，误差越高表示越可能是分布外样本。

实验结果

研究问题

• RQ1 通过上下文恢复进行自监督预训练是否能改善脑部CT扫描中异常检测的特征学习？
• RQ2 联合训练重建与几何变换预测是否相比单任务方法能提升检测性能？
• RQ3 将局部（重建）与全局（变换预测）异常信号相结合，如何影响检测精度？
• RQ4 在所提出的多任务框架中，分类性能与分割定位之间的权衡如何？

主要发现

• 所提出的多任务框架实现了0.822的AUROC与0.868的AUPR，显著优于以往方法，如VAE（AUROC：0.668）与上下文编码VAE（AUROC：0.766）。
• 使用上下文恢复进行预训练相比标准VAE提升了性能，AUROC从0.668提升至0.673，AUPR从0.704提升至0.772。
• 在预训练后仅使用重建损失的模型（带预训练的VAE）相比基线VAE性能有所提升，证实了自监督预训练的优势。
• 尽管分类性能提升，但分割性能（DSC：0.086 ± 0.024）略低于其他方法，表明检测与定位之间存在权衡。
• 几何变换分支对异常检测有显著贡献，其预测误差提供了与局部重建误差互补的稳健全局异常信号。
• 尽管仅在正常扫描上进行训练，该方法在多种异常情况（如脑萎缩、颅内出血、缺血与肿瘤）中均表现出强大的泛化能力。