[论文解读] A Novel Hybrid Machine Learning Model for Auto-Classification of Retinal Diseases

Chris Yang, Jia-Hong Huang+6 more|arXiv (Cornell University)|Jun 17, 2018

Retinal Imaging and Analysis参考文献 15被引用 21

一句话总结

本文提出了一种新颖的混合机器学习模型，结合基于U-Net的深度神经网络（DNNs）与支持向量机（SVMs），用于自动分类32种视网膜疾病。该模型使用U-Net对视网膜特征进行语义分割，随后通过主成分分析（PCA）进行降维，再使用SVM进行分类，在新提出的EyeNet数据集中实现了89.73%的准确率——与专业眼科医生相当。

ABSTRACT

Automatic clinical diagnosis of retinal diseases has emerged as a promising approach to facilitate discovery in areas with limited access to specialists. We propose a novel visual-assisted diagnosis hybrid model based on the support vector machine (SVM) and deep neural networks (DNNs). The model incorporates complementary strengths of DNNs and SVM. Furthermore, we present a new clinical retina label collection for ophthalmology incorporating 32 retina diseases classes. Using EyeNet, our model achieves 89.73% diagnosis accuracy and the model performance is comparable to the professional ophthalmologists.

研究动机与目标

• 开发一种自动化、可靠且可扩展的系统，用于在临床环境中诊断视网膜疾病，特别是在资源匮乏或偏远地区。
• 通过引入一个全新的综合性临床标签集合EyeNet，解决有限标注视网膜图像数据的挑战，涵盖32种疾病类别。
• 通过整合深度学习进行特征提取与SVM进行稳健的高级分类，提升诊断准确率。
• 通过构建一种性能可媲美专家眼科医生的系统，实现即时诊疗。
• 通过提供一个丰富、多模态的视网膜图像数据集，支持未来在视觉问答和智能医疗系统方面的研究。

提出的方法

• 设计了一种混合架构：U-Net处理原始视网膜图像以提取语义特征，随后通过主成分分析（PCA）进行降维。
• 将降维后的特征图输入多类SVM分类器，采用RBF核与多项式核进行最终疾病预测。
• 采用加权投票策略，结合在完整EyeNet数据集和U-Net处理子集上训练的两个SVM，最优混合比例为47%:53%。
• 应用迁移学习，使用ImageNet预训练权重（AlexNet、VGG11、SqueezeNet）以提升小样本医学数据集上的性能。
• 在训练过程中应用数据增强，包括随机翻转、旋转和裁剪，每轮训练中概率为70%。
• 所有模型的超参数保持一致：400个周期，采用两阶段学习率（前200个周期为1e-4，后200个周期为1e-5）。

实验结果

研究问题

• RQ1 在有限临床数据条件下，混合深度学习与SVM的模型能否实现对多种视网膜疾病的高诊断准确率？
• RQ2 将基于U-Net的特征提取与SVM分类相结合，相较于独立的DNN模型，性能提升程度如何？
• RQ3 从ImageNet进行迁移学习在小样本视网膜图像数据集上能否显著提升泛化能力？
• RQ4 所提出的EyeNet数据集能否支持可靠、可复现且具有临床相关性的视网膜疾病分类？
• RQ5 在不同数据子集上训练的两个SVM之间的加权投票策略，对最终诊断准确率的影响程度如何？

主要发现

• 该混合模型在使用RBF核且混合比例为47%:53%时，实现了89.73%的分类准确率，优于所有独立的DNN基线模型。
• 迁移学习显著提升了性能，相较于随机初始化，所有DNN模型的测试准确率均提升了5–15个百分点。
• 在基线模型中，基于VGG11的模型在ImageNet预训练下达到最高准确率88.71%，其次为SqueezeNet（82.26%）和AlexNet（79.03%）。
• U-Net分割结果与真实标签高度相似，定性结果显示其在多种病理情况（包括黄斑变性和视盘出血）下均表现出色。
• 该模型对过拟合表现出强鲁棒性，训练与验证准确率仅相差2.31%，表明具有良好的泛化能力。
• EyeNet数据集包含32种视网膜疾病类别，同时提供图像和文本临床标签，是未来眼科AI研究的新型公开资源。