[论文解读] Choice of training label matters: how to best use deep learning for quantitative MRI parameter estimation

Sean C. Epstein, Timothy Bray+2 more|arXiv (Cornell University)|May 11, 2022

Non-Destructive Testing Techniques参考文献 20被引用 4

一句话总结

本文表明，通过用从数据中独立计算出的最大似然估计（MLE）替代标准真实标签，监督式深度学习在定量MRI参数估计中可实现低偏差性能——此前仅能通过自监督方法实现。所提出的方法在单一监督框架内统一了低偏差与低方差估计，通过标签选择实现偏差与方差之间的可调制权衡。

ABSTRACT

Deep learning (DL) is gaining popularity as a parameter estimation method for quantitative MRI. A range of competing implementations have been proposed, relying on either supervised or self-supervised learning. Self-supervised approaches, sometimes referred to as unsupervised, have been loosely based on auto-encoders, whereas supervised methods have, to date, been trained on groundtruth labels. These two learning paradigms have been shown to have distinct strengths. Notably, self-supervised approaches have offered lower-bias parameter estimates than their supervised alternatives. This result is counterintuitive - incorporating prior knowledge with supervised labels should, in theory, lead to improved accuracy. In this work, we show that this apparent limitation of supervised approaches stems from the naive choice of groundtruth training labels. By training on labels which are deliberately not groundtruth, we show that the low-bias parameter estimation previously associated with self-supervised methods can be replicated - and improved on - within a supervised learning framework. This approach sets the stage for a single, unifying, deep learning parameter estimation framework, based on supervised learning, where trade-offs between bias and variance are made by careful adjustment of training label.

研究动机与目标

• 解决一个反直觉现象：尽管监督式深度学习方法在qMRI参数估计中拥有更多信息，但其偏差却高于自监督方法。
• 探究监督式学习中高偏差是否源于训练标签的选择，而非学习范式本身。
• 开发一种新型监督式深度学习框架，以复制并超越自监督方法的低偏差性能。
• 通过策略性标签选择，将qMRI参数估计中的偏差与方差控制统一于单一监督学习框架下。
• 通过将信号模型拟合与训练损失函数解耦，实现深度学习模型在qMRI任务中的灵活、特定任务优化。

提出的方法

• 作者在监督训练中用从相同噪声输入数据中独立计算出的qMRI参数最大似然估计（MLE）替代标准真实标签。
• 这些MLE作为深度神经网络（DNN）的训练标签，使网络学习从噪声qMRI信号曲线映射到参数估计值。
• 该方法在保持监督学习计算效率与可扩展性的同时，通过避免真实标签中固有的噪声诱导偏差，降低了偏差。
• 该方法允许对不同参数实施灵活的损失加权，从而优先考虑临床相关的参数。
• 该方法将瑞利噪声建模整合到训练过程中，提升了低信噪比（SNR）下的性能。
• 该框架通过将信号模型与训练损失函数分离，支持不可微分的信号模型。

实验结果

研究问题

• RQ1 为何监督式深度学习方法在qMRI参数估计中产生的偏差高于自监督方法，尽管其拥有更多信息？
• RQ2 自监督方法的低偏差性能是否可在监督学习框架中复现？
• RQ3 用MLE衍生标签替代真实标签是否能改善监督式深度学习在qMRI中的偏差特性？
• RQ4 能否通过统一的监督学习框架实现qMRI参数估计中偏差与方差的可调制权衡？
• RQ5 与真实标签相比，使用基于MLE的标签在模型灵活性、噪声建模和参数优先级方面有何优势？

主要发现

• 在监督训练中使用MLE衍生标签而非真实标签，可将偏差降低至与自监督方法相当或更优的水平，尤其在低SNR下（如SNR = 15）。
• 所提方法在多种参数值和噪声水平下，均实现了比监督真实标签方法和自监督方法更低的偏差，以及相似或更优的均方根误差（RMSE）。
• 在低SNR（15）下，使用MLE训练的监督模型相比真实标签监督模型表现出显著更低的偏差，尤其在极端参数值处（如D_slow = 0.69 和 D_slow = 2.71）。
• 该方法支持灵活的损失加权，使网络能够优先提升临床关注参数的估计精度。
• 将瑞利噪声建模整合到训练过程中，显著提升了低SNR下参数估计性能，尤其对慢速扩散系数（D_slow）有明显改善。
• 通过将信号模型与训练损失解耦，该框架可实现对不可微分信号模型的估计，从而扩展了适用qMRI模型的范围。