[论文解读] Active learning with version spaces for object detection

Soumya Roy, Vinay P. Namboodiri+1 more|arXiv (Cornell University)|Nov 22, 2016

Machine Learning and Algorithms参考文献 55被引用 4

一句话总结

该论文提出了一种基于版本空间的主动学习方法，用于目标检测，通过选择最具信息量的图像进行标注，显著减少了标注工作量。通过将目标检测建模为‘特征差值’空间中的结构化回归问题，该方法仅使用20%的训练数据，便实现了超过95%的全监督定位准确率，优于基于不确定性的基线方法（如熵和边缘采样）。

ABSTRACT

Given an image, we would like to learn to detect objects belonging to particular object categories. Common object detection methods train on large annotated datasets which are annotated in terms of bounding boxes that contain the object of interest. Previous works on object detection model the problem as a structured regression problem which ranks the correct bounding boxes more than the background ones. In this paper we develop algorithms which actively obtain annotations from human annotators for a small set of images, instead of all images, thereby reducing the annotation effort. Towards this goal, we make the following contributions: 1. We develop a principled version space based active learning method that solves for object detection as a structured prediction problem in a weakly supervised setting 2. We also propose two variants of the margin sampling strategy 3. We analyse the results on standard object detection benchmarks that show that with only 20% of the data we can obtain more than 95% of the localization accuracy of full supervision. Our methods outperform random sampling and the classical uncertainty-based active learning algorithms like entropy

研究动机与目标

• 通过仅选择最具信息量的图像进行人工标注，降低目标检测中的标注成本。
• 解决结构化预测任务（如目标检测）中缺乏系统性主动学习方法的问题。
• 开发一种理论基础坚实的主动学习框架，避免不确定性方法中常见的采样偏差。
• 通过识别对监督微调具有高影响力的图像，实现高效的半监督目标检测。
• 证明基于版本空间的查询机制可显著提升泛化能力与定位准确率，且仅需极少标注数据。

提出的方法

• 将目标检测建模为使用结构化支持向量机（SSVM）的结构化回归问题。
• 将每张图像的候选边界框表示为特征向量的差值，以实现版本空间表示。
• 将[38]中提出的版本空间主动学习框架应用于‘特征差值’空间，以支持结构化预测。
• 设计两种新型边缘采样变体（APT和OPT），以最大程度减少版本空间中的不确定性。
• 使用一种查询函数，选择能最大程度缩小版本空间大小的图像，确保信息增益最大化。
• 将该方法与基于Caffe的特征集成，并证明其与深度学习流水线的兼容性。

实验结果

研究问题

• RQ1 基于版本空间的主动学习能否有效适配到目标检测等结构化预测问题？
• RQ2 在目标检测任务中，基于版本空间的主动学习与熵和边缘采样等不确定性方法相比表现如何？
• RQ3 主动学习在多大程度上可减少标注工作量，同时保持高检测准确率？
• RQ4 查询策略对收敛速度及对异常值的鲁棒性有何影响？
• RQ5 所提方法能否扩展至与深度特征及半监督学习框架协同工作？

主要发现

• APT方法在PASCAL VOC2007数据集上仅使用20%的训练数据，便实现了超过全监督方法95%的定位准确率。
• 对于'motorbike'和'bicycle'等类别，APT的性能甚至超过全监督方法，表明其具备强大的泛化能力与高质量的查询选择能力。
• 在'chair'和'bottle'等具有挑战性的类别上，APT的平均准确率达到87%，优于熵采样（89.4%）和边缘采样（87.4%）的平均表现。
• 查询序列中带有绿色边框的图像（具有影响力）带来了显著的准确率提升，而带有红色边框的图像（异常值）则导致准确率下降，表明该方法对数据质量具有高度敏感性。
• 该方法在低数据设置下显著优于基线主动学习策略（如熵、边缘采样和MSM）。
• 在较简单的TU Graz-02数据集上，所有方法在仅使用10%数据时均实现了超过全监督90%的准确率，但APT在多种不同设置下仍保持了竞争力与鲁棒性。