[论文解读] Identification and Visualization of the Underlying Independent Causes of the Diagnostic of Diabetic Retinopathy made by a Deep Learning Classifier

J de la Torre, Aı̈da Valls+2 more|arXiv (Cornell University)|Sep 23, 2018

Retinal Imaging and Analysis参考文献 1被引用 3

一句话总结

本文提出了一种方法，用于识别并可视化深度学习模型在从眼底图像分类糖尿病视网膜病变时所使用的独立、数学上互异的原因。通过将独立成分分析（ICA）应用于最后一层的特征，并结合得分可视化，作者表明仅需三个独立成分即可实现接近人类水平的分类性能（达到原始指标的99%），每个成分突出显示了不同的病变模式，从而在过滤噪声和伪影的同时，精确地定位疾病标志。

ABSTRACT

Interpretability is a key factor in the design of automatic classifiers for medical diagnosis. Deep learning models have been proven to be a very effective classification algorithm when trained in a supervised way with enough data. The main concern is the difficulty of inferring rationale interpretations from them. Different attempts have been done in last years in order to convert deep learning classifiers from high confidence statistical black box machines into self-explanatory models. In this paper we go forward into the generation of explanations by identifying the independent causes that use a deep learning model for classifying an image into a certain class. We use a combination of Independent Component Analysis with a Score Visualization technique. In this paper we study the medical problem of classifying an eye fundus image into 5 levels of Diabetic Retinopathy. We conclude that only 3 independent components are enough for the differentiation and correct classification between the 5 disease standard classes. We propose a method for visualizing them and detecting lesions from the generated visual maps.

研究动机与目标

• 为解决深度学习模型在医学诊断中可解释性不足的问题，特别是在从眼底图像分类糖尿病视网膜病变方面。
• 识别训练好的深度学习分类器用于做出诊断决策的潜在独立统计规律。
• 开发一种可视化方法，将这些独立原因在图像空间中分离并定位，以实现临床可解释性。
• 确定维持分类性能所需的最少成分数量，以减少特征空间中的冗余。
• 验证该方法能够有效区分视网膜图像中的真实病变与噪声和伪影。

提出的方法

• 该方法将独立成分分析（ICA）应用于一个17层深度神经网络最后一层全连接层的特征表示，该网络已针对糖尿病视网膜病变分类进行训练。
• ICA用于将原始64维特征空间压缩为一组最小的统计独立成分，同时保留分类能力。
• 采用像素级重要性传播技术，可视化每个ICA成分对最终分类决策的贡献。
• 可视化方法通过反向传播重要性计算得分图，聚焦于单个ICA成分，以定位与病变相关的模式。
• 该方法使用61×61像素的感受野计算局部重要性得分，阈值设定为±2个标准差，以突出显著贡献。
• 通过比较原始特征空间与ICA压缩后特征空间之间的分类性能（加权 kappa 系数）和 t-SNE 可视化结果，对方法进行验证。

实验结果

研究问题

• RQ1 维持深度学习模型在糖尿病视网膜病变分类中性能所需的最少独立成分数量是多少？
• RQ2 特征空间中的哪些统计规律对应于临床相关的病变模式，而非噪声或伪影？
• RQ3 独立成分分析能否有效解耦深度学习模型分类决策的潜在原因？
• RQ4 所提出的可视化方法在定位实际视网膜病变方面，与模型预测相比准确度如何？
• RQ5 ICA压缩后的特征空间在减少冗余的同时，能在多大程度上保持模型的诊断能力？

主要发现

• 仅需三个独立成分即可实现原始模型99%的性能，以加权 kappa 系数衡量（κ_original = 0.800，κ_ICA = 0.790）。
• ICA压缩后的特征空间与原始特征空间具有相近的 t-SNE 可视化质量，表明数据中的结构关系得以保留。
• ICA 成分 2 在得分图中与实际视网膜病变几乎完全匹配，表现出极低的假阳性和假阴性率。
• ICA 成分 0 和 1 捕捉了与病变无关的统计规律，如噪声和伪影，证明 ICA 能有效过滤非病理模式。
• 像素级得分可视化方法成功定位了不同且数学上独立的疾病指标，实现了可解释的病变检测。
• 该方法具有良好的泛化能力，ICA 得分模型可适用于糖尿病视网膜病变以外的其他医学图像分类任务。