[论文解读] Harmonization and the Worst Scanner Syndrome

Daniel Moyer, Polina Golland|arXiv (Cornell University)|Jan 15, 2021

Domain Adaptation and Few-Shot Learning参考文献 13被引用 5

一句话总结

本文揭示了领域不变医学影像分析方法的根本局限性，表明强制对扫描仪/中心变量保持不变的标准化技术不可避免地会限制预测性能，尤其是在信息量最少的扫描仪主导信息边界时。关键发现是，不变预测器的性能无法超过最弱领域中可用的互信息，从而导致‘最差扫描仪综合征’——模型准确率被最嘈杂或信息最少的扫描仪所限制。

ABSTRACT

We show that for a wide class of harmonization/domain-invariance schemes several undesirable properties are unavoidable. If a predictive machine is made invariant to a set of domains, the accuracy of the output predictions (as measured by mutual information) is limited by the domain with the least amount of information to begin with. If a real label value is highly informative about the source domain, it cannot be accurately predicted by an invariant predictor. These results are simple and intuitive, but we believe that it is beneficial to state them for medical imaging harmonization.

研究动机与目标

• 分析医学影像中一大类领域不变（标准化）方法的理论局限性。
• 识别出对扫描仪/中心变量的不变性本质上会限制预测能力，尤其是在某些领域信息量极少时。
• 证明当某些标签仅在特定扫描仪上观测到时，不变预测器无法准确预测这些标签而不违反不变性约束。
• 提醒研究人员不要假设领域不变性能保证鲁棒性或最优性能，尤其是在存在分布偏移的真实医学影像场景中。
• 通过突出IR-DPI方法中不可避免的错误模式和性能权衡，为模型预期设定合理框架。

提出的方法

• 聚焦于一类称为不变表示-数据处理不等式（IR-DPI）的方法，其通过中间表示 $\mathcal{Z}$ 强制实现不变性，使该表示与扫描仪/中心变量的互信息 $I(z,s)$ 最小化。
• 利用数据处理不等式证明 $I(y,\hat{y}) \leq I(y,z)$，并进一步将其限制为所有站点 $s'$ 的最小值 $I(y,x|s=s')$。
• 应用信息论约束：$I(z,s) = 0$ 意味着表示 $z$ 不携带任何关于扫描仪的信息，从而强制实现领域不变性。
• 通过反证法证明：若某一标签 $y'$ 仅在某一扫描仪 $s'$ 上观测到，则不变预测器无法在不将扫描仪信息引入表示 $z$ 的情况下准确预测 $y'$，从而违反不变性约束。
• 考虑通过跨扫描仪映射图像的生成式标准化方法，认为生成‘无站点’图像在理论上存在问题且在实践中不可行。
• 提出替代策略——如数据增强或超越不变性的领域泛化方法——可能比严格的IR-DPI约束提供更好的性能权衡。

实验结果

研究问题

• RQ1 领域不变预测器在医学影像分析中的根本信息论极限是什么？
• RQ2 强制对扫描仪变量保持不变如何限制预测与真实标签之间的互信息？
• RQ3 预测器能否在对扫描仪站点保持不变的同时，准确预测仅在特定扫描仪上存在的标签？
• RQ4 当信息最少的扫描仪主导不变模型的信息边界时，预测性能会发生什么变化？
• RQ5 是否存在替代IR-DPI的方法，能在不牺牲对罕见或站点特异性标签的预测准确率的前提下实现鲁棒性？

主要发现

• 对于任何强制执行 $I(z,s) = 0$ 的IR-DPI方法，预测 $\hat{y}$ 与真实标签 $y$ 之间的互信息受所有扫描仪 $s'$ 中最小 $I(y,x|s=s')$ 的限制，意味着最弱的领域决定了性能上限。
• 若某一标签 $y'$ 仅在单一扫描仪 $s'$ 上观测到，则不变预测器无法在不将扫描仪信息引入表示 $z$ 的情况下准确预测 $y'$，从而违反不变性约束。
• 即使 $I(z,s) > 0$ 的情况，由于不变性与预测保真度之间的权衡，与特定扫描仪强相关的标签的预测准确率也必然降低。
• 通过表示压缩强制实现不变性的标准化方法本质上会减少信息，导致性能上限由信息最少的扫描仪决定。
• 理论边界表明，无论模型容量或训练数据规模如何，任何IR-DPI方法都无法超越最弱领域的信息容量。
• 本文提醒：尽管IR-DPI方法可防止对扫描仪伪影的过拟合，但也可能抑制临床相关信号，特别是对罕见或站点特异性病理。