[论文解读] Prototypical Clustering Networks for Dermatological Disease Diagnosis

Viraj Prabhu, Anitha Kannan+4 more|arXiv (Cornell University)|Nov 7, 2018

Cutaneous Melanoma Detection and Management参考文献 22被引用 7

一句话总结

本文提出原型聚类网络（PCN），一种少样本学习方法，通过将每类皮肤病视为多个原型的混合来处理类内差异性和长尾数据分布。通过使用在线聚类和加权原型相似度，PCN在罕见和多样的皮肤状况上表现出色，尤其在长尾泛化方面优于基线模型。

ABSTRACT

We consider the problem of image classification for the purpose of aiding doctors in dermatological diagnosis. Dermatological diagnosis poses two major challenges for standard off-the-shelf techniques: First, the data distribution is typically extremely long tailed. Second, intra-class variability is often large. To address the first issue, we formulate the problem as low-shot learning, where once deployed, a base classifier must rapidly generalize to diagnose novel conditions given very few labeled examples. To model diverse classes effectively, we propose Prototypical Clustering Networks (PCN), an extension to Prototypical Networks that learns a mixture of prototypes for each class. Prototypes are initialized for each class via clustering and refined via an online update scheme. Classification is performed by measuring similarity to a weighted combination of prototypes within a class, where the weights are the inferred cluster responsibilities. We demonstrate the strengths of our approach in effective diagnosis on a realistic dataset of dermatological conditions.

研究动机与目标

• 解决临床诊断中皮肤病图像数据长尾分布和高度可变性的挑战。
• 在部署后仅用少量标注样本，实现对新型皮肤状况的快速泛化。
• 提升在标准模型失效的罕见和多样化皮肤状况上的分类性能。
• 开发一种保护隐私、可扩展的方法，无需原始数据重训练即可扩展分类器。

提出的方法

• 通过将每类表示为多个原型而非单一原型，扩展原型网络。
• 在训练期间，通过支持集嵌入的聚类为每类初始化原型。
• 使用在线更新机制优化原型，使其基于新到达的支持样本自适应调整。
• 通过计算与类别原型加权组合的相似度实现分类，其中权重由聚类责任推断得出。
• 使用可微分的软分配机制，为每张查询图像推断聚类责任 q(z|c,x)。
• 端到端训练模型，同时学习嵌入空间和原型混合参数。

实验结果

研究问题

• RQ1 少样本学习方法能否有效处理皮肤病状况的长尾分布？
• RQ2 将每类建模为多个原型的混合是否能提升在多样化和罕见皮肤状况上的性能？
• RQ3 模型能否在仅用少量标注样本的情况下泛化到新类别，同时保护隐私？
• RQ4 模型在处理可变表现时，对多个原型的插值能力如何？

主要发现

• PCN在长尾数据分布上显著优于强基线模型，尤其在罕见和多变状况这一最具挑战性的区域表现更优。
• 通过为每类学习多个原型，模型有效捕捉了类内差异性，实现了在不同身体部位表现各异的痤疮等多样化表现上的准确预测。
• 定性分析表明，模型能正确地在相关原型之间进行插值，且聚类责任会根据图像特定特征（如皮肤纹理和体位）自适应调整。
• 错误预测仍涉及有意义的原型间插值，表明其在不确定性处理方面具有鲁棒性。
• 该方法支持隐私保护的模型扩展：仅需一次前向传播即可添加新类别，无需访问原始训练数据或基础设施。