[论文解读] No Surprises: Training Robust Lung Nodule Detection for Low-Dose CT Scans by Augmenting with Adversarial Attacks

Siqi Liu, Arnaud A. A. Setio+5 more|arXiv (Cornell University)|Mar 8, 2020

COVID-19 diagnosis using AI参考文献 50被引用 4

一句话总结

该论文提出了一种对抗性数据增强方法，通过在可微分结节生成器上使用投影梯度下降（PGD）生成困难的合成结节和对抗性噪声，以提升低剂量CT扫描中肺结节检测的鲁棒性。该方法在未充分代表的结节类型上提升了检测性能，并增强了对噪声扰动的鲁棒性，在两个基准数据集上优于标准模型，同时保持了干净数据上的准确率。

ABSTRACT

Detecting malignant pulmonary nodules at an early stage can allow medical interventions which may increase the survival rate of lung cancer patients. Using computer vision techniques to detect nodules can improve the sensitivity and the speed of interpreting chest CT for lung cancer screening. Many studies have used CNNs to detect nodule candidates. Though such approaches have been shown to outperform the conventional image processing based methods regarding the detection accuracy, CNNs are also known to be limited to generalize on under-represented samples in the training set and prone to imperceptible noise perturbations. Such limitations can not be easily addressed by scaling up the dataset or the models. In this work, we propose to add adversarial synthetic nodules and adversarial attack samples to the training data to improve the generalization and the robustness of the lung nodule detection systems. To generate hard examples of nodules from a differentiable nodule synthesizer, we use projected gradient descent (PGD) to search the latent code within a bounded neighbourhood that would generate nodules to decrease the detector response. To make the network more robust to unanticipated noise perturbations, we use PGD to search for noise patterns that can trigger the network to give over-confident mistakes. By evaluating on two different benchmark datasets containing consensus annotations from three radiologists, we show that the proposed techniques can improve the detection performance on real CT data. To understand the limitations of both the conventional networks and the proposed augmented networks, we also perform stress-tests on the false positive reduction networks by feeding different types of artificially produced patches. We show that the augmented networks are more robust to both under-represented nodules as well as resistant to noise perturbations.

研究动机与目标

• 解决在小结节、磨玻璃样结节或不规则结节等未充分代表的结节类型上，肺结节检测模型的泛化差距问题。
• 提升模型对真实世界低剂量CT扫描中常见的意外图像失真和噪声扰动的鲁棒性。
• 通过利用可微分结节生成器生成的对抗性样本，克服传统数据增强和模型缩放的局限性。
• 通过在困难样本和噪声模式上进行对抗性训练，提升假阳性减少网络的性能。
• 证明对抗性增强可在不损害干净基准数据性能的前提下提升鲁棒性。

提出的方法

• 使用可微分结节生成器在潜在空间中生成3D结节，然后应用PGD搜索最小化检测器响应的潜在码，从而生成困难的合成结节。
• 对输入CT图像应用PGD，生成最大化检测器错误预测置信度的对抗性噪声模式，以模拟真实世界中的扰动。
• 通过在训练集中加入对抗性合成结节和对抗性噪声模式，提升模型的泛化能力和鲁棒性。
• 在增强数据上训练假阳性减少（FPR）网络，使用与标准模型相同的损失函数，以保持与现有流程的兼容性。
• 通过向模型输入人工生成的图像块（包括对抗性样本）进行压力测试，评估其在多种扰动类型下的鲁棒性。
• 使用基于贝塔分布的不确定性估计分析模型在分布外输入（尤其是对抗性样本）上的置信度。

实验结果

研究问题

• RQ1 对抗性数据增强是否能提升低剂量CT扫描中罕见且难以检测的肺结节的检测性能？
• RQ2 在临床CT数据中，通过对抗性生成的噪声模式进行训练，是否能增强对意外图像失真的鲁棒性？
• RQ3 对抗性增强是否能在不降低干净基准数据集性能的前提下提升模型泛化能力？
• RQ4 与自然分布外样本相比，模型在对抗性输入上的不确定性估计行为如何？
• RQ5 所提出的方法是否可迁移至其他需要鲁棒性和泛化能力的医学影像任务？

主要发现

• 所提出的对抗性增强方法在三名放射科医生达成共识的标注的两个基准数据集上，显著提升了检测性能，尤其在未充分代表的结节上表现出更强的泛化能力。
• 增强后的模型在压力测试中对合成困难结节和各类噪声扰动均表现出显著更高的鲁棒性，优于基线模型。
• 尽管引入了对抗性样本，模型在干净测试数据上的性能保持不变或略有提升，表明未出现显著的准确率下降。
• 仅依靠不确定性估计不足以检测对抗性生成的输入，凸显了对抗性训练在提升鲁棒性方面的重要性。
• 该方法在仅应用于假阳性减少阶段时依然有效，表明其在检测流程中具有更广泛的应用潜力。
• 该方法在攻击已增强模型时仍有效，但当在已增强的网络上生成对抗性噪声时，可观察到明显的视觉伪影。