[论文解读] Few-shot segmentation of medical images based on meta-learning with implicit gradients.

Rabindra Khadga, Debesh Jha+5 more|arXiv (Cornell University)|Jun 6, 2021

Domain Adaptation and Few-Shot Learning参考文献 23被引用 4

一句话总结

本文提出了一种隐式模型无关元学习（iMAML）方法，用于少样本医学图像分割，使模型能够在仅使用少量标注数据的情况下，泛化到未见过的数据集。通过利用隐式梯度，该方法在皮肤和息肉数据集上的分割性能优于监督基线方法以及近期的少样本方法。

ABSTRACT

Classical supervised methods commonly used often suffer from the requirement of an abudant number of training samples and are unable to generalize on unseen datasets. As a result, the broader application of any trained model is very limited in clinical settings. However, few-shot approaches can minimize the need for enormous reliable ground truth labels that are both labor intensive and expensive. To this end, we propose to exploit an optimization-based implicit model agnostic meta-learning {iMAML} algorithm in a few-shot setting for medical image segmentation. Our approach can leverage the learned weights from a diverse set of training samples and can be deployed on a new unseen dataset. We show that unlike classical few-shot learning approaches, our method has improved generalization capability. To our knowledge, this is the first work that exploits iMAML for medical image segmentation. Our quantitative results on publicly available skin and polyp datasets show that the proposed method outperforms the naive supervised baseline model and two recent few-shot segmentation approaches by large margins.

研究动机与目标

• 解决经典监督方法在医学图像分割中需要大量标注数据的局限性。
• 克服临床环境中因数据稀缺导致的在未见数据集上泛化能力差的挑战。
• 开发一种能在极少标注样本下有效泛化于多样化医学影像领域的少样本学习方法。
• 首次将隐式模型无关元学习（iMAML）应用于医学图像分割。

提出的方法

• 采用基于优化的元学习框架，利用隐式梯度高效更新模型参数。
• 利用来自多样化训练样本的学到的权重，实现对新未见数据集的快速适应。
• 通过隐式微分公式化元优化问题，以计算梯度，而无需对内层循环进行显式反向传播。
• 在少样本设置下训练模型，即在推理过程中每类仅有少量标注样本可用。
• 使用标准分割主干网络（如U-Net）并通过iMAML微调，以在极少数据下适应新任务。
• 优化元学习器以最小化多个少样本任务上的验证损失，从而提升泛化能力。

实验结果

研究问题

• RQ1 与标准监督方法及少样本基线相比，隐式模型无关元学习（iMAML）是否能提升医学图像分割中的少样本泛化能力？
• RQ2 所提出的基于iMAML的方法在仅有少量标注样本的未见医学图像数据集上表现如何？
• RQ3 使用隐式梯度是否能带来更稳定且高效的元优化，特别是在医学图像分割背景下？
• RQ4 该方法能否在极少领域偏移的情况下，泛化到不同解剖结构（如皮肤病变、息肉）？

主要发现

• 所提出的基于iMAML的方法在皮肤和息肉分割数据集上均优于朴素的监督基线方法。
• 在相同基准上，该方法显著优于两种近期的少样本分割方法。
• 定量结果表明，由于隐式梯度机制，该方法在未见数据集上表现出更强的泛化能力。
• 该方法在每类仅有少量标注样本时仍表现出稳健性能，验证了其在少样本学习中的潜力。