[论文解读] Interpretable Discovery in Large Image Data Sets

Kiri L. Wagstaff, Jake Lee|arXiv (Cornell University)|Jun 21, 2018

Explainable Artificial Intelligence (XAI)参考文献 11被引用 9

一句话总结

该论文提出了一种新颖的方法，通过结合CNN特征与DEMUD算法，在大规模图像数据集中实现可解释的异常检测，以识别并可视化解释异常或新颖的图像。该方法利用SVD建模生成基于残差的解释，并通过转置卷积网络生成人类可理解的可视化结果，在高难度、不平衡的数据集（如火星漫游车图像）上实现了优异的发现性能，同时保持了可解释性且未牺牲准确性。

ABSTRACT

Automated detection of new, interesting, unusual, or anomalous images within large data sets has great value for applications from surveillance (e.g., airport security) to science (observations that don't fit a given theory can lead to new discoveries). Many image data analysis systems are turning to convolutional neural networks (CNNs) to represent image content due to their success in achieving high classification accuracy rates. However, CNN representations are notoriously difficult for humans to interpret. We describe a new strategy that combines novelty detection with CNN image features to achieve rapid discovery with interpretable explanations of novel image content. We applied this technique to familiar images from ImageNet as well as to a scientific image collection from planetary science.

研究动机与目标

• 解决在大规模数据集中识别新颖或异常图像的挑战，其中人工检查不可行。
• 为为何某些图像被视为新颖提供人类可理解的视觉解释，超越单纯的检测。
• 在时间敏感的应用（如行星探测）中实现实时快速发现，因为遗漏异常可能造成高昂代价。
• 证明在图像无监督新颖性检测中，可解释性与高检测性能可以共存。
• 探索该方法在检测标记数据集中误标样本和对抗性输入方面的实用性。

提出的方法

• 使用预训练的卷积神经网络（CNN）从输入图像中提取高层抽象图像表征。
• 应用DEMUD算法（基于增量SVD）对已知数据分布进行建模，并通过重构误差衡量新颖性。
• 生成原始解释作为残差向量——即原始图像与SVD重构版本之间的差异——突出显示未被建模的内容。
• 采用转置卷积网络将残差向量转换为视觉可解释的显著性图，突出显示图像中的新颖成分。
• 使用重构误差 R(x) = ||x − (U U^T (x − μ) + μ)||₂ 来量化新颖性，其中U包含前K个特征向量，μ为所选数据的均值。
• 采用CNN特征而非原始像素或SIFT描述符，以提升表示质量，尤其在视觉相似或领域偏移的数据中。

实验结果

研究问题

• RQ1 我们能否在大规模数据集中为新颖图像的发现生成视觉上合理、人类可理解的解释？
• RQ2 与传统的像素或SIFT表示相比，使用基于CNN的特征是否能提升新颖性检测性能？
• RQ3 该方法是否不仅能检测真正的新颖样本，还能检测标记数据集中误标或对抗性样本？
• RQ4 在高度相似且不平衡的图像集合中，该方法在真实世界高风险领域（如行星探测）中的有效性如何？
• RQ5 在时间受限环境（如漫游车任务规划）中，该方法在支持战术决策方面的程度如何？

主要发现

• 在类似ImageNet的数据集上，使用CNN特征时，该方法实现了近乎完美的新颖性检测性能，显著优于基于像素和SIFT的表示方法。
• 在火星漫游车数据集上，基于CNN的DEMUD方法在发现性能上显著优于基于像素或SIFT的特征，尤其得益于该数据集的视觉相似性和类别不平衡。
• 视觉解释成功突出了有意义的新颖内容——例如花朵中心的暗区或漫游车传感器上的灰尘积累——通过忽略常见特征（如黄色）而聚焦于异常偏差。
• 系统自然地将同一物体的两个极端样本（完好无损和积尘的REMS-UV传感器）识别为新颖，证明其无需时间戳数据即可检测随时间变化的异常。
• 该方法检测出一张被错误标记为“虎崽”的狮子图像为异常，证实其在识别标注错误和潜在对抗性样本方面的实用性。
• 使用CNN特征使系统在目标数据分布（如火星地形）与ImageNet不同时仍能实现稳健发现，尽管在目标领域数据上进行微调可能进一步提升性能。