Skip to main content
QUICK REVIEW

[论文解读] High- and Low-level image component decomposition using VAEs for improved reconstruction and anomaly detection

David Zimmerer, Jens Petersen|arXiv (Cornell University)|Nov 27, 2019
COVID-19 diagnosis using AI参考文献 21被引用 6
一句话总结

本文提出了一种新型变分自编码器架构——主成分条件层次变分自编码器(pchVAE),通过专用的重建分支将图像分解为高层(粗粒度)和低层(细粒度)成分。通过修改损失函数强制实现解缠,pchVAE 在保持或略微提升分布外检测性能的同时,实现了比标准 VAE 更清晰的重建结果,解决了医学图像生成中常见的输出过平滑问题。

ABSTRACT

Variational Auto-Encoders have often been used for unsupervised pretraining, feature extraction and out-of-distribution and anomaly detection in the medical field. However, VAEs often lack the ability to produce sharp images and learn high-level features. We propose to alleviate these issues by adding a new branch to conditional hierarchical VAEs. This enforces a division between higher-level and lower-level features. Despite the additional computational overhead compared to a normal VAE it results in sharper and better reconstructions and can capture the data distribution similarly well (indicated by a similar or slightly better OoD detection performance).

研究动机与目标

  • 解决标准 VAE 在应用于医学图像重建时出现的过平滑问题。
  • 在无监督表征学习中提升高层(粗粒度)与低层(细粒度)图像特征之间的解缠程度。
  • 在架构修改的情况下,保持或增强分布外(OoD)检测性能。
  • 通过显式建模结构层次,提升脑部 MRI 数据的重建保真度。
  • 为医学图像分析提供更具可解释性和模块化的 VAE 框架。

提出的方法

  • 提出一种新损失函数,通过分别最小化高层和低层成分的重建误差,并加入互信息正则化项,强制实现层次分解。
  • 引入一种条件层次变分自编码器架构,其中低层解码器同时依赖于高层潜在码和低层潜在码,以促进特征解缠。
  • 使用共享的编码器主干网络提取高层与低层特征,同时采用独立的解码器分别重建粗粒度与细粒度结构。
  • 采用修改后的变分推断目标,包含三项重建损失:高层、低层以及一项强制两成分独立性的交叉项。
  • 利用重参数化与蒙特卡洛采样,实现对层次化模型的端到端训练。
  • 为每个潜在空间引入 KL 散度项,将后验分布正则化为标准正态分布。

实验结果

研究问题

  • RQ1与标准 VAE 相比,具有专用低层重建分支的层次变分自编码器架构是否能提升图像重建的清晰度?
  • RQ2强制高层与低层特征之间的解缠是否能增强模型在医学图像中重建细粒度纹理的能力?
  • RQ3与基线 VAE 相比,所提出的 pchVAE 是否保持或提升了分布外(OoD)检测性能?
  • RQ4该模型能否在脑部 MRI 数据中有效分离粗粒度结构成分与细粒度纹理细节?
  • RQ5互信息正则化项是否有效促进了高层与低层成分之间的独立性?

主要发现

  • pchVAE 在脑部 MRI 切片中显著实现了比标准 VAE 和 VQVAE-2 更清晰的图像重建,尤其在保留细粒度细节和纹理方面表现突出。
  • 模型在 AUROC 和平均精度指标上保持或略微提升了 OoD 检测性能,表明其对数据分布的建模更加稳健。
  • pchVAE 在重建质量上优于 High VAE 和 Low VAE 变体,证明了联合建模两种成分的优势。
  • 引入互信息正则化项(λ₃)后,表示更加解缠,低层成分受高层特征的影响显著降低。
  • 尽管计算成本更高,pchVAE 在不损害泛化能力的前提下实现了更优的重建保真度,其在 HCP 和 BraTS2017 数据集上均表现出一致的性能。
  • 消融研究证实,三项重建损失对实现更优的视觉质量和解缠效果至关重要。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。