[论文解读] On Convergence Property of Implicit Self-paced Objective

Zilu Ma, Shiqi Liu+1 more|arXiv (Cornell University)|Mar 29, 2017

Evolutionary Algorithms and Applications参考文献 9被引用 5

一句话总结

本文通过证明自 paced 学习（SPL）中交替优化策略收敛于隐式非凸正则化惩罚（NCRP）目标函数的临界点，建立了SPL的理论收敛保证。在温和条件下——如损失函数的连续可微性与正则化项的强制性——该算法被证明可收敛至隐式目标函数的临界点，从而验证了SPL与鲁棒优化之间的内在联系。

ABSTRACT

Self-paced learning (SPL) is a new methodology that simulates the learning principle of humans/animals to start learning easier aspects of a learning task, and then gradually take more complex examples into training. This new-coming learning regime has been empirically substantiated to be effective in various computer vision and pattern recognition tasks. Recently, it has been proved that the SPL regime has a close relationship to a implicit self-paced objective function. While this implicit objective could provide helpful interpretations to the effectiveness, especially the robustness, insights under the SPL paradigms, there are still no theoretical results strictly proved to verify such relationship. To this issue, in this paper, we provide some convergence results on this implicit objective of SPL. Specifically, we prove that the learning process of SPL always converges to critical points of this implicit objective under some mild conditions. This result verifies the intrinsic relationship between SPL and this implicit objective, and makes the previous robustness analysis on SPL complete and theoretically rational.

研究动机与目标

• 理论验证自 paced 学习（SPL）与其隐式非凸正则化惩罚（NCRP）目标函数之间的内在联系。
• 解决SPL底层隐式目标函数缺乏收敛保证的问题，这对验证先前的鲁棒性分析至关重要。
• 将收敛理论扩展至精确最小化在MM算法中不可行的实际场景，允许存在有界误差。
• 通过将SPL与明确定义的隐式目标函数的临界点关联，为其鲁棒性提供严格的理论基础。

提出的方法

• 将SPL目标形式化为对模型权重 $ w $ 和样本权重 $ v $ 的联合优化，其中自 paced 正则化项 $ f_{\theta} $ 满足特定的凸性与单调性条件。
• 将SPL过程重述为对隐式目标 $ G_{\theta} $ 的主要化-最小化（MM）算法，该目标函数被证明是水平有界的且下半连续的。
• 通过验证近似函数 $ U(w|w^k) $ 满足次微分包含关系 $ \partial U(w|w) \subset \partial G(w) $，应用MM算法的收敛理论。
• 在标准假设下建立对 $ G_{\theta} $ 临界点的收敛性：损失函数有下界，$ L $ 连续可微，$ v_{\theta}^* $ 连续，且 $ \phi_{\theta} $ 强制。
• 通过允许误差 $ \epsilon_k $ 满足 $ \sum_k \epsilon_k < \infty $，放宽MM步骤中精确最小化的限制，确保即使更新不精确也能收敛。
• 利用次微分演算及强制与下半连续函数的性质，证明序列 $ \{w^k\} $ 的聚点为 $ G_{\theta} $ 的临界点。

实验结果

研究问题

• RQ1 自 paced 学习过程是否收敛至隐式非凸正则化惩罚（NCRP）目标函数的临界点？
• RQ2 当MM步骤中精确最小化不可行时，能否在实际条件下保证收敛？
• RQ3 确保SPL算法收敛至隐式目标函数临界点所需的最小假设是什么？
• RQ4 隐式目标函数与原始SPL公式在优化动态与稳定性方面有何关联？
• RQ5 主要化-最小化（MM）理论框架能否被用于严格证明SPL的鲁棒性？

主要发现

• 在温和条件下，包括损失函数的连续可微性与正则化项的强制性，SPL中的交替优化策略可收敛至隐式NCRP目标 $ G_{\theta} $ 的临界点。
• 即使MM算法中的最小化步骤不精确，只要累积误差 $ \sum_k \epsilon_k $ 为有限值，收敛性仍可保证。
• 隐式目标 $ G_{\theta} $ 被证明是水平有界的且下半连续的，确保了聚点的存在性。
• 在给定假设下，次微分包含关系 $ \partial U(w|w) \subset \partial G(w) $ 成立，从而支持MM收敛理论的应用。
• 结果证实SPL本质上在优化一个具有鲁棒性的隐式目标，验证了其先前基于经验与启发式解释的鲁棒性。
• 该理论框架为SPL作为具有收敛保证的非凸优化形式提供了坚实基础，增强了其在机器学习应用中的可信度。