[论文解读] Higher-order MRFs based image super resolution: MMSE or MAP?

Yunjin Chen|arXiv (Cornell University)|Oct 27, 2014

Advanced MRI Techniques and Applications被引用 1

一句话总结

该论文表明，在基于高阶领域专家（FoE）先验的单图像超分辨率任务中，计算效率更高的MAP推理方法在性能上优于或等同于计算成本更高的MMSE估计，即使使用相同的先验模型。当采用判别式训练的FoE先验时，MAP推理的性能进一步提升，使得MMSE估计在此任务中变得不再必要。

ABSTRACT

has proved a highly effective image prior model for many classic image restoration problems. Generally, two options are available to incorporate the learned FoE prior in the inference procedure: (1) sampling-based minimum mean square error (MMSE) estimate, and (2) energy minimization-based maximum a posteriori (MAP) estimate. It is well-known the sampling-based MMSE estimate is very time consuming, but the MAP inference has a remarkable advantage of high computational efficiency. In a recent paper, the FoE prior model was exploited for the single image super resolution (SR) task by using the MMSE inference, based on a seemingly correct conclusion that the MAP inference of the FoE prior based model, which leads a non-convex optimization problem, is prone to getting stuck in some bad local minima. However, in this letter, we demonstrate that this simpler inference criterion- the MAP estimate, works equally well compared to the complicated MMSE estimate with exactly the same prior model. Moreover, with our discriminatively trained FoE prior model, the MAP inference can even lead to further improvements. Consequently, we argue that for higher-order natural image prior based SR problem, it is not necessary to employ the time consuming MMSE estimation. Index Terms—Bayesian minimum mean square error, a maxi-mum a posteriori, Fields of Experts, single image super resolution I.

研究动机与目标

• 评估在单图像超分辨率任务中，使用高阶FoE先验时，计算效率更高的MAP推理是否能够达到或超越更复杂的MMSE估计的性能。
• 探究一个普遍假设的有效性，即使用FoE先验的MAP推理在超分辨率任务中容易陷入不良局部极小值。
• 评估对FoE先验进行判别式训练是否能够进一步提升基于MAP推理的超分辨率性能。
• 通过证明MAP推理在实际应用和性能上的优势，挑战FoE超分辨率中对MMSE估计的普遍依赖。

提出的方法

• 作者采用相同的高阶FoE先验模型，对比了两种推理策略——MMSE（基于采样的）和MAP（能量最小化）在单图像超分辨率中的表现。
• 他们采用判别式训练的FoE先验，以提升先验模型的质量，从而增强MAP推理的性能。
• MAP推理通过能量最小化实现，求解一个非凸优化问题，其计算效率高于MMSE的采样方法。
• 使用基准数据集上的标准超分辨率指标，评估MMSE和MAP的性能表现。
• 为确保公平比较，两种推理方法均使用完全相同的FoE先验模型。
• 作者分析了MAP目标函数的优化景观，以评估其对不良局部极小值的敏感性。

实验结果

研究问题

• RQ1 在使用相同先验模型的情况下，采用FoE先验的MAP推理是否能获得与MMSE推理相当或更优的超分辨率结果？
• RQ2 在单图像超分辨率背景下，普遍认为MAP推理易陷入不良局部极小值的观点是否成立？
• RQ3 对FoE先验进行判别式训练是否能进一步提升基于MAP推理的超分辨率性能？
• RQ4 MMSE估计在FoE超分辨率中是否真的必不可少，还是高效的MAP推理已足够？

主要发现

• 在使用相同FoE先验模型时，MAP推理方法在超分辨率性能上与MMSE估计相当。
• 在测试的超分辨率任务中，MAP推理并未受到不良局部极小值的影响，这与认为其不可靠的假设相矛盾。
• 采用判别式训练的FoE先验后，MAP推理在性能上进一步优于标准FoE先验和MMSE基线。
• MAP推理的计算效率使其成为优于MMSE的更优选择，因为MMSE因采样需求而计算成本过高。
• 本研究结论认为，对于基于高阶先验的超分辨率任务，MMSE估计是不必要的，因为MAP推理在显著降低计算成本的同时，能提供等效或更优的结果。