[论文解读] On Reducing Negative Jacobian Determinant of the Deformation Predicted by Deep Registration Networks

Dongyang Kuang|arXiv (Cornell University)|Jun 28, 2019

Medical Image Segmentation Techniques参考文献 17被引用 4

一句话总结

该论文提出了两种训练机制改进——循环一致性设计和精炼模块——以减少深度无监督图像配准网络中的负雅可比行列式，显著降低形变中的折叠位置，同时不牺牲配准精度或改变网络架构。

ABSTRACT

Image registration is a fundamental step in medical image analysis. Ideally, the transformation that registers one image to another should be a diffeomorphism that is both invertible and smooth. Traditional methods like geodesic shooting approach the problem via differential geometry, with theoretical guarantees that the resulting transformation will be smooth and invertible. Most previous research using unsupervised deep neural networks for registration have used a local smoothness constraint (typically, a spatial variation loss) to address the smoothness issue. These networks usually produce non-invertible transformations with ``folding'' in multiple voxel locations, indicated by a negative determinant of the Jacobian matrix of the transformation. While using a loss function that specifically penalizes the folding is a straightforward solution, this usually requires carefully tuning the regularization strength, especially when there are also other losses. In this paper we address this problem from a different angle, by investigating possible training mechanisms that will help the network avoid negative Jacobians and produce smoother deformations. We contribute two independent ideas in this direction. Both ideas greatly reduce the number of folding locations in the predicted deformation, without making changes to the hyperparameters or the architecture used in the existing baseline registration network.

研究动机与目标

• 解决无监督深度学习医学图像配准中非可逆形变的问题，特别是由负雅可比行列式指示的折叠现象。
• 克服标准正则化方法的局限性，后者即使在高超参数调优下也常无法完全消除折叠。
• 在不修改网络架构或引入新损失函数的前提下，提升预测变换的几何保真度。
• 在保持高配准精度的同时，增强形变场的平滑性和可逆性。

提出的方法

• 引入循环一致性设计，使网络同时学习前向和后向变换，通过最小化前向-后向传递后原始输入与重建输入之间的差异来强制实现可逆性。
• 实现一个精炼模块，利用独立网络迭代校正预测的位移场，从而细化形变以减少折叠。
• 在训练过程中应用循环一致性损失，而不修改原始损失函数，对前向和后向映射使用共享的编码器-解码器结构。
• 使用带有残差块和Leaky ReLU激活函数的精炼网络，通过四步迭代过程逐步改善位移场。
• 使用固定学习率的Adam优化器训练整个系统，同时保留基线U-Net架构用于形变预测。
• 通过Dice分数评估配准精度，以负雅可比行列式体素所占百分比作为折叠程度的衡量指标。

实验结果

研究问题

• RQ1 能否设计出不改变损失函数或网络架构的训练机制，以减少深度无监督配准网络中的负雅可比行列式？
• RQ2 在训练中强制实施循环一致性是否能提升预测形变的可逆性和平滑性？
• RQ3 对位移场进行迭代精炼是否能减少折叠，同时保持高配准精度？
• RQ4 与标准正则化方法相比，这些方法在几何保真度和跨数据集泛化能力方面表现如何？
• RQ5 这些方法在不降低配准性能的前提下，能在多大程度上减少折叠？

主要发现

• 循环一致性设计将测试集上负雅可比行列式体素的百分比从基线的1.97%平均降低至0.13%。
• 精炼模块将负雅可比行列式百分比降低至0.20%，且标准差（0.02%）低于基线（0.73%）。
• 尽管几何特性显著改善，两种方法均保持了高配准精度，Dice分数与基线相当。
• 形变网格的可视化结果证实，两种方法均有效消除了折叠现象，同时在非折叠区域保持了良好的平滑性。
• 与基线相比，循环一致性方法在减少折叠方面优于精炼模块，消除了超过90%的问题位置。
• 所提出的方法与现有配准网络兼容，可在不改变架构的前提下与其他平滑性增强技术结合使用。