[论文解读] Speeding-up Graphical Model Optimization via a Coarse-to-fine Cascade of Pruning Classifiers

Bruno Conejo, Nikos Komodakis+2 more|arXiv (Cornell University)|Sep 15, 2014

Advanced Image and Video Retrieval Techniques参考文献 31被引用 3

一句话总结

本文提出一种端到端可学习的粗粒度到细粒度级联剪枝分类器，显著加速了计算机视觉任务中马尔可夫随机场（MRF）优化的进程，同时提升了求解精度。通过在每个尺度上利用训练好的分类器自适应地剪除非活跃标签，该方法在能量值更低的情况下，相较最先进推理方法实现了最高4倍的加速，且标签一致性超过99%。

ABSTRACT

We propose a general and versatile framework that significantly speeds-up graphical model optimization while maintaining an excellent solution accuracy. The proposed approach relies on a multi-scale pruning scheme that is able to progressively reduce the solution space by use of a novel strategy based on a coarse-to-fine cascade of learnt classifiers. We thoroughly experiment with classic computer vision related MRF problems, where our framework constantly yields a significant time speed-up (with respect to the most efficient inference methods) and obtains a more accurate solution than directly optimizing the MRF.

研究动机与目标

• 解决大规模视觉问题中MRF优化因超线性复杂度带来的高计算成本问题。
• 克服现有剪枝与多尺度方法依赖刚性启发式规则或可能丢失最优解的局限性。
• 构建一种通用且可学习的框架，逐步缩小解空间而不损失精度。
• 在保持或提升能量最小化性能的同时，实现显著加速，适用于多种视觉任务。

提出的方法

• 采用图形模型的粗粒度到细粒度多尺度表示，逐步优化MAP估计。
• 引入一系列训练好的二分类器，用于预测每个节点在当前尺度下可安全剪除的标签。
• 采用细粒度剪枝策略，允许基于分类器置信度，按节点独立地丢弃任意标签子集。
• 利用当前尺度解和局部图像上下文提取的特征，训练分类器以预测非最优标签。
• 在多个尺度上应用剪枝，剪枝强度随超参数λ逐步增强，以平衡速度与精度。
• 将剪枝框架无缝集成到现有MRF求解器（如FastPD）中，无需修改核心优化算法。

实验结果

研究问题

• RQ1 可学习的粗粒度到细粒度剪枝级联是否能在速度与精度上超越传统MRF优化方法？
• RQ2 基于分类器的标签剪枝在保持最优解方面效果如何，尤其是在不连续区域附近？
• RQ3 在不降低能量最小化结果的前提下，解空间最多可缩减多少？
• RQ4 该框架是否能在立体匹配、光流和图像恢复等多样化的MRF问题中实现良好泛化？
• RQ5 即使采用激进剪枝策略，该方法是否仍能获得优于直接优化的能量值？

主要发现

• 所提出的基于剪枝的优化方法相较FastPD（最高效基线方法）实现了最高4倍的加速。
• 在所有测试问题中，该方法获得的能量值均低于直接优化，表明解的质量得到提升。
• 在大多数情况下，标签一致性超过99%，即使在激进剪枝下，最佳一致性也未低于96%。
• 活跃标签比例与加速比强相关，证实剪枝有效缩小了搜索空间。
• 在标签不连续区域，该框架保持了高精度，所有数据集中均观察到此类区域剪枝量减少。
• 该方法泛化能力良好：在某一数据集（如Tsukuba）上训练的分类器，可成功应用于未见数据集（如Venus、Teddy、House）的标签剪枝。