[论文解读] From Image-Level to Pixel-Level Labeling with Convolutional Networks

Pedro O. Pinheiro, Ronan Collobert|arXiv (Cornell University)|Nov 23, 2014

Advanced Neural Network Applications参考文献 29被引用 12

一句话总结

本文提出一种仅使用图像级标签的弱监督目标分割方法，通过训练卷积神经网络（CNN）在分类过程中突出显示判别性像素。该模型在Pascal VOC上仅使用图像级监督和简单的平滑先验，即达到42.0%的mAP，性能处于当前最先进水平，显著优于以往的弱监督方法，并接近全监督结果。

ABSTRACT

We are interested in inferring object segmentation by leveraging only object class information, and by considering only minimal priors on the object segmentation task. This problem could be viewed as a kind of weakly supervised segmentation task, and naturally fits the Multiple Instance Learning (MIL) framework: every training image is known to have (or not) at least one pixel corresponding to the image class label, and the segmentation task can be rewritten as inferring the pixels belonging to the class of the object (given one image, and its object class). We propose a Convolutional Neural Network-based model, which is constrained during training to put more weight on pixels which are important for classifying the image. We show that at test time, the model has learned to discriminate the right pixels well enough, such that it performs very well on an existing segmentation benchmark, by adding only few smoothing priors. Our system is trained using a subset of the Imagenet dataset and the segmentation experiments are performed on the challenging Pascal VOC dataset (with no fine-tuning of the model on Pascal VOC). Our model beats the state of the art results in weakly supervised object segmentation task by a large margin. We also compare the performance of our model with state of the art fully-supervised segmentation approaches.

研究动机与目标

• 解决仅使用最小监督信号（即仅图像级类别标签而非像素级标注）进行目标分割的挑战。
• 通过迁移ImageNet预训练模型的特征，弥合图像分类与密集预测任务之间的差距。
• 开发一种无需在训练过程中使用边界框或分割掩码即可学习定位相关像素的方法。
• 证明弱监督学习可实现与全监督分割模型相媲美甚至更优的性能。
• 在保持高分割精度的同时，最小化对复杂先验的依赖，通过有效的网络架构和训练约束实现。

提出的方法

• 在ImageNet上仅使用图像级标签训练CNN，采用Overfeat特征提取器作为主干网络。
• 引入一种新颖的聚合层（对数-求和-指数层），约束网络聚焦于对图像级分类至关重要的像素。
• 采用多实例学习（MIL）框架，其中每张图像被视为一个“包”，至少包含一个目标类别为正类的像素。
• 推理阶段，移除聚合层，利用学习到的特征进行密集像素级分类。
• 在推理后应用简单的平滑先验（如SP-sppxl、SP-bb、SP-seg）以优化分割掩码，减少误报。
• 在Pascal VOC上使用每类平均准确率和平均平均精度（mAP）作为评估指标，且不在目标数据集上进行微调。

实验结果

研究问题

• RQ1 仅在图像级标签上进行训练的CNN，能否学习到足够精确的判别性像素定位，以实现准确的目标分割？
• RQ2 对数-求和-指数聚合层在训练过程中引导网络聚焦于判别区域方面的有效性如何？
• RQ3 简单的平滑先验在多大程度上能提升弱监督分割预测的质量？
• RQ4 该弱监督方法的性能与当前最先进全监督分割模型相比如何？
• RQ5 从ImageNet到Pascal VOC的迁移学习是否具备足够的泛化能力，使得无需微调即可实现具有竞争力的分割精度？

主要发现

• 所提方法在Pascal VOC 2012验证集上仅使用图像级监督和简单先验，即达到42.0%的mAP，显著优于以往的弱监督方法。
• 加入SP-seg先验后，模型在“dog”类别上达到56.8% mAP，在“sheep”类别上达到55.4%，展现出优异的类别特定性能。
• 与以往弱监督方法相比，平均每类准确率从30%提升至90%，性能获得显著飞跃。
• 即使仅使用最简单的先验（SP-sppxl），模型仍可达到36.6% mAP，表明在强特征学习的配合下，极简的归纳偏置已足够。
• 该方法在Pascal VOC的多个类别上接近SOTA性能，例如“background”类别达到79.6% mAP，“car”类别达到51.5%，已非常接近全监督结果。
• 消融实验表明，对数-求和-指数层在所有指标上均优于其他聚合函数，性能最优。