[论文解读] Learning multiple non-mutually-exclusive tasks for improved classification of inherently ordered labels

Vadim Ratner, Yoel Shoshan+1 more|arXiv (Cornell University)|May 30, 2018

Image Retrieval and Classification Techniques参考文献 2被引用 5

一句话总结

本文提出了一种用于具有固有有序标签（如 BIRADS）的医学图像分类的多任务学习框架，该框架支持多个非互斥的阈值化二分类任务同时训练。通过在任务间共享表示——尤其是那些类别更平衡的任务——该方法显著提升了分类性能，特别是在困难且数据不平衡的任务上，与单任务模型相比，在真阳性率 95% 时，真阴性率几乎翻倍。

ABSTRACT

Medical image classification involves thresholding of labels that represent malignancy risk levels. Usually, a task defines a single threshold, and when developing computer-aided diagnosis tools, a single network is trained per such threshold, e.g. as screening out healthy (very low risk) patients to leave possibly sick ones for further analysis (low threshold), or trying to find malignant cases among those marked as non-risk by the radiologist ("second reading", high threshold). We propose a way to rephrase the classification problem in a manner that yields several problems (corresponding to different thresholds) to be solved simultaneously. This allows the use of Multiple Task Learning (MTL) methods, significantly improving the performance of the original classifier, by facilitating effective extraction of information from existing data.

研究动机与目标

• 解决医学图像分类中固有有序诊断标签（如 BIRADS）带来的类别不平衡与标签模糊问题。
• 提升在高度不平衡数据上难以分类的阈值化任务（如 BIRADS 1–3 与 4–5）的分类性能。
• 通过从单一标签空间中构建多个非互斥的二分类任务，利用医学标签的有序性。
• 证明在这些衍生任务上进行多任务学习可增强模型的泛化能力和鲁棒性，尤其当单个任务类别严重不平衡时。

提出的方法

• 通过在有序标签空间上应用不同阈值来构建多个二分类任务（例如，BIRADS 1 与 2–5，1–2 与 3–5，1–3 与 4–5）。
• 采用共享的深度神经网络架构，配备多个输出头，每个输出头对应一个阈值化任务，实现参数共享与联合优化。
• 对每个输出头独立应用二元交叉熵损失，训练过程中对所有任务的损失进行平均。
• 模型在弱监督数据上端到端训练，每张图像仅有一个 BIRADS 值，多个任务由此标签推导得出。
• 该方法使网络能从某些子任务中更好的类别平衡数据中受益，从而学习到更鲁棒的表示。
• 包含消融实验，采用四输出独热分类器对 BIRADS 值 1、2、3 和 4–5 进行比较。

实验结果

研究问题

• RQ1 同时训练多个非互斥的基于阈值的任务是否能提升在固有有序医学标签上的分类性能？
• RQ2 多任务学习是否能缓解如 BIRADS 1–3 与 4–5 这类困难且数据不平衡任务上的性能下降？
• RQ3 多任务模型的性能与在单个阈值上训练的单任务模型相比如何？
• RQ4 从类别更平衡的子任务中学习在低数据场景下在多大程度上提升了泛化能力？
• RQ5 在存在阅片者间差异的情况下，所提出的方法是否优于对有序标签的直接独热分类？

主要发现

• 对于 BIRADS 1–3 与 4–5 任务，多任务模型在真阳性率 0.95 时，真阴性率（TNR）接近单任务分类器的两倍。
• 在 BIRADS 1–2 与 3–5 任务中，多任务方法显著优于单任务模型，且在真阳性率 0.95 时 TNR 显著提升。
• BIRADS 1 与 2–5 任务最为简单，单任务与多任务模型表现相近，表明对已平衡的任务提升有限。
• 直接的独热 BIRADS 分类器在所有任务中表现最差，可能是因为中等水平标签（如 BIRADS 3）存在较高的阅片者间差异。
• 性能提升归因于多任务设置使模型通过接触更平衡的子任务数据，实现了更优的表示学习。
• 该方法在效果上类似于课程学习，因为更容易的子任务（类别更平衡）有助于网络训练，使其在更难、不平衡的任务上泛化能力更强。