[论文解读] P-Mamba: Marrying Perona Malik Diffusion with Mamba for Efficient Pediatric Echocardiographic Left Ventricular Segmentation

Zi Ye, Tianxiang Chen+3 more|arXiv (Cornell University)|Feb 13, 2024

Cardiovascular Function and Risk FactorsMedicine被引用 3

一句话总结

P-Mamba 提出了一种新颖且高效的深度学习框架，用于儿科超声心动图左心室分割，通过融合视觉 Mamba 以建模全局依赖关系，并结合基于离散小波变换（DWT）的 Perona-Malik 扩散（PMD）模块以实现噪声抑制与边缘保持。该模型在 PSAX 数据集上达到 0.9221 的 Dice 分数，在 A4C 数据集上达到 0.9046，性能优于当前最先进方法，且推理效率显著提升，优于参数复杂度为二次和线性的视觉 Transformer 模型。

ABSTRACT

In pediatric cardiology, the accurate and immediate assessment of cardiac function through echocardiography is crucial since it can determine whether urgent intervention is required in many emergencies. However, echocardiography is characterized by ambiguity and heavy background noise interference, causing more difficulty in accurate segmentation. Present methods lack efficiency and are prone to mistakenly segmenting some background noise areas, such as the left ventricular area, due to noise disturbance. To address these issues, we introduce P-Mamba, which integrates the Mixture of Experts (MoE) concept for efficient pediatric echocardiographic left ventricular segmentation. Specifically, we utilize the recently proposed ViM layers from the vision mamba to enhance our model's computational and memory efficiency while modeling global dependencies.In the DWT-based Perona-Malik Diffusion (PMD) Block, we devise a PMD Block for noise suppression while preserving the left ventricle's local shape cues. Consequently, our proposed P-Mamba innovatively combines the PMD's noise suppression and local feature extraction capabilities with Mamba's efficient design for global dependency modeling. We conducted segmentation experiments on two pediatric ultrasound datasets and a general ultrasound dataset, namely Echonet-dynamic, and achieved state-of-the-art (SOTA) results. Leveraging the strengths of the P-Mamba block, our model demonstrates superior accuracy and efficiency compared to established models, including vision transformers with quadratic and linear computational complexity.

研究动机与目标

• 解决儿科超声心动图左心室（LV）分割中噪声干扰与低效的问题。
• 通过抑制背景噪声同时保留左心室边界细节，提升分割精度。
• 相比现有基于视觉 Transformer 的模型，提升计算与内存效率。
• 将选择性状态空间建模与基于扩散的去噪方法整合到统一架构中，用于超声图像分割。
• 在计算成本极低的前提下，实现对儿科超声心动图数据集的卓越性能。

提出的方法

• 采用双编码器架构：使用视觉 Mamba 编码器以线性复杂度和硬件高效性建模全局上下文。
• 引入基于 DWT 的 PMD 模块，在离散小波变换（DWT）分解后对特征图应用 Perona-Malik 扩散，以实现噪声抑制与边缘增强。
• 利用 DWT 将输入特征分解为子带，实现在保留左心室区域结构细节的同时实现局部化噪声滤除。
• 在多个尺度上融合来自 Mamba 和 PMD 分支的特征图，再通过分割头与 FCN 解码器进行掩码预测。
• 采用多尺度监督训练，结合 Dice 损失与其他标准分割损失，以提升边界预测精度。
• 利用 Mamba 模块的选择性结构化状态空间机制，高效建模长距离依赖关系，无需自注意力机制。

实验结果

研究问题

• RQ1 结合 Mamba 与 Perona-Malik 扩散的混合架构是否能提升在噪声干扰的儿科超声心动图上的分割精度？
• RQ2 与标准 CNN 或注意力机制相比，基于 DWT 的 PMD 模块是否能更有效地实现边缘保持与噪声抑制？
• RQ3 基于 Mamba 的编码器在保持或提升性能的同时，能在多大程度上降低计算成本，相较于视觉 Transformer 模型？
• RQ4 在儿科超声心动图基准测试中，所提出的 P-Mamba 模型在效率与精度方面相较于当前最先进模型表现如何？
• RQ5 通过消融实验，各组件（Mamba 与 PMD）对最终分割性能的贡献分别是什么？

主要发现

• P-Mamba 在 PSAX 数据集上取得 0.9221 的 Dice 分数，在 A4C 数据集上取得 0.9046，优于所有对比的 SOTA 方法。
• 模型推理时间缩短至 23.49 ms，参数量仅 183.37M，GPU 显存占用 12.22 GB，显著优于 PVT 和 MaxViT 等模型的效率表现。
• 消融实验表明，若移除基于 DWT 的 PMD 模块，PSAX 上的 Dice 分数下降 0.0028，证实其在噪声抑制与边缘保真度中的关键作用。
• 将 Mamba 模块替换为基于 ViT 的模型（如 PVT、Flatten Transformer）后，精度下降，证明 Mamba 在建模能力上的优越性。
• 基于 DWT 的 PMD 模块优于简单的 Sobel 算子（缺乏噪声抑制能力），证实扩散机制的必要性。
• 在 PSAX 上，模型保持高精确率（0.9316）与高召回率（0.9128），表明对假阳性和漏检具有强鲁棒性。