[论文解读] Curriculum Learning: A Survey

Petru Soviany, Radu Tudor Ionescu+2 more|arXiv (Cornell University)|Jan 25, 2021

Machine Learning and Data Classification被引用 4

一句话总结

本综述对机器学习中的课程学习（CL）提供了全面概述，形式化了其原则，并将其与学习框架的核心组件相联系。它提出了课程学习方法的多重视角分类法与分层聚类，识别出关键挑战，如样本排序与节奏控制，并提出了未来方向，包括自动课程调节以及与进化搜索等替代优化算法的整合。

ABSTRACT

Training machine learning models in a meaningful order, from the easy samples to the hard ones, using curriculum learning can provide performance improvements over the standard training approach based on random data shuffling, without any additional computational costs. Curriculum learning strategies have been successfully employed in all areas of machine learning, in a wide range of tasks. However, the necessity of finding a way to rank the samples from easy to hard, as well as the right pacing function for introducing more difficult data can limit the usage of the curriculum approaches. In this survey, we show how these limits have been tackled in the literature, and we present different curriculum learning instantiations for various tasks in machine learning. We construct a multi-perspective taxonomy of curriculum learning approaches by hand, considering various classification criteria. We further build a hierarchical tree of curriculum learning methods using an agglomerative clustering algorithm, linking the discovered clusters with our taxonomy. At the end, we provide some interesting directions for future work.

研究动机与目标

• 将现有的课程学习方法统一在一个通用框架下，实现形式化与统一化。
• 解决课程学习的局限性，如难以对样本从简单到复杂进行排序以及选择最优节奏函数。
• 基于分类标准，提供课程学习方法的结构化分类法与分层聚类。
• 识别尚未充分探索的研究方向，特别是在视觉变换器和医学影像等新兴领域。
• 通过阐明其优势与在深度学习工作流中集成的挑战，促进课程学习的广泛应用。

提出的方法

• 基于数据类型、学习目标和课程策略等分类标准，构建课程学习方法的多重视角分类法。
• 应用凝聚聚类方法将相似的课程学习方法分组，并构建将聚类与分类法相连接的分层树状结构。
• 提出课程学习的通用公式，将其与任何机器学习方法的四个主要组成部分（数据、模型、优化、评估）相集成。
• 回顾了在目标检测、图像分类和神经机器翻译等多样化任务中现有的CL实例。
• 分析课程学习与相反策略（如困难样本挖掘和反课程学习）之间的权衡。
• 提出未来研究方向，包括自动课程调节以及将CL与非SGD优化方法（如进化算法）结合。

实验结果

研究问题

• RQ1 如何在多种机器学习任务与架构中对课程学习进行形式化统一？
• RQ2 在实现课程学习时，主要挑战是什么，特别是在样本排序与节奏函数设计方面？
• RQ3 课程学习与困难样本挖掘或反课程学习等替代训练策略相比有何异同？
• RQ4 在哪些新兴机器学习领域（如视觉变换器或医学影像）中，课程学习最具潜力？
• RQ5 哪些机制可实现自动、自适应的课程调度，从而减少人工干预？

主要发现

• 在计算机视觉、自然语言处理和语音识别等多个领域，课程学习均能持续提升训练收敛速度与最终模型准确率。
• 综述指出，课程学习广泛采用的主要障碍在于难以自动对样本从简单到复杂进行排序，并确定引入更难样本的最优节奏。
• 尽管具有优势，但课程学习若实施不当，可能导致收敛问题，因为模型可能陷入次优局部极小值。
• 视觉变换器和医学影像数据集是课程学习的有前景但尚未充分探索的应用领域，特别是基于图像复杂度或标注质量的数据级课程。
• 当前NLP中的课程策略通常依赖于文本长度等简单启发式方法，表明需要基于词汇复杂度与语言结构的人类式课程。
• 未来将课程学习与替代优化算法（如进化搜索）结合，可能缩小标准SGD与更先进优化器之间的性能差距。