[논문 리뷰] Curriculum Learning: A Survey

Petru Soviany, Radu Tudor Ionescu외 2명|arXiv (Cornell University)|2021. 01. 25.

Machine Learning and Data Classification인용 수 4

한 줄 요약

이 종합 검토는 기계 학습에서 커리큘럼 학습(CL)에 대한 포괄적인 개요를 제공하며, 그 원칙을 체계화하고 학습 프레임워크의 핵심 구성요소와 연계한다. 다각도의 분류 체계와 계층적 군집화를 통한 CL 방법의 체계적 분류를 제시하고, 샘플 순서 매기기와 패싱 속도 설정과 같은 핵심 과제를 규명하며, 자동 커리큘럼 조절 및 진화적 탐색과 같은 대체 최적화 알고리즘과의 통합을 포함한 향후 방향성을 제안한다.

ABSTRACT

Training machine learning models in a meaningful order, from the easy samples to the hard ones, using curriculum learning can provide performance improvements over the standard training approach based on random data shuffling, without any additional computational costs. Curriculum learning strategies have been successfully employed in all areas of machine learning, in a wide range of tasks. However, the necessity of finding a way to rank the samples from easy to hard, as well as the right pacing function for introducing more difficult data can limit the usage of the curriculum approaches. In this survey, we show how these limits have been tackled in the literature, and we present different curriculum learning instantiations for various tasks in machine learning. We construct a multi-perspective taxonomy of curriculum learning approaches by hand, considering various classification criteria. We further build a hierarchical tree of curriculum learning methods using an agglomerative clustering algorithm, linking the discovered clusters with our taxonomy. At the end, we provide some interesting directions for future work.

연구 동기 및 목표

• 다양한 기계 학습 작업과 아키텍처에 걸쳐 기존 커리큘럼 학습 접근법을 하나의 일반적 프레임워크로 통합 및 체계화하기 위해.
• 샘플 순서 매기기와 최적의 패싱 함수 선택의 어려움과 같은 커리큘럼 학습의 한계를 해결하기 위해.
• 분류 기준에 기반한 계층적 군집화를 통한 커리큘럼 학습 방법의 체계적 분류 체계를 제공하기 위해.
• 비교적 탐색이 부족한 연구 분야, 특히 비전 트랜스포머나 의료 영상과 같은 신규 분야에서의 잠재력을 규명하기 위해.
• 딥 러닝 워크플로우에서의 이점과 통합 과제를 명확히 하여 커리큘럼 학습의 광범위한 도입을 촉진하기 위해.

제안 방법

• 데이터 유형, 학습 목표, 커리큘럼 전략 등의 분류 기준에 기반해 커리큘럼 학습 방법의 다각도 분류 체계를 수립한다.
• 유사한 커리큘럼 학습 방법을 군집화하기 위해 적대적 군집화 기법을 적용하고, 분류 체계와 연결된 계층적 트리를 구성한다.
• 모든 기계 학습 접근법의 네 가지 주요 구성요소인 데이터, 모델, 최적화, 평가와 통합된 커리큘럼 학습의 일반적 수식을 제안한다.
• 객체 검출, 이미지 분류, 신경 기계 번역 등 다양한 작업에서 기존 CL 구현 사례를 검토한다.
• 커리큘럼 학습과 하드 예제 마이닝, 반-커리큘럼 학습과 같은 대체 전략 간의 상충 관계를 분석한다.
• 향후 연구 방향으로 자동 커리큘럼 조절 및 CL을 비-SGD 최적화 방법(예: 진화 알고리즘)과 통합하는 것을 제안한다.

실험 결과

연구 질문

• RQ1 다양한 기계 학습 작업과 아키텍처에 걸쳐 커리큘럼 학습을 어떻게 체계화하고 통합할 수 있는가?
• RQ2 샘플 순서 매기기와 패싱 함수 설계의 어려움을 포함한 커리큘럼 학습을 구현할 때의 핵심 과제는 무엇인가?
• RQ3 하드 예제 마이닝이나 반-커리큘럼 학습과 같은 대체 훈련 전략과 비교해 커리큘럼 학습은 어떻게 다른가?
• RQ4 비전 트랜스포머나 의료 영상과 같은 신규 기계 학습 분야에서 커리큘럼 학습이 가장 기대되는 분야는 어디인가?
• RQ5 수동적 조정을 줄일 수 있는 자동적이고 적응형 커리큘럼 스케줄링을 가능하게 하는 메커니즘은 무엇인가?

주요 결과

• 컴퓨터 비전, NLP, 음성 인식 등 다양한 분야에서 커리큘럼 학습은 훈련 수렴 속도 향상과 최종 모델 정확도 향상에 일관되게 기여한다.
• 본 검토에서는 널리 보급되지 않는 주요 장벽으로, 쉬운 예제에서 어려운 예제로의 자동 순서 매기기 및 더 어려운 예제를 도입할 최적의 속도 설정의 어려움을 규명한다.
• 장점이 있음에도 불구하고, 커리큘럼 학습이 잘못 구현될 경우 모델이 국소 최적해에 갇힐 수 있어 수렴 문제를 유발할 수 있다.
• 비전 트랜스포머와 의료 영상 데이터셋은 커리큘럼 학습의 잠재력은 크지만 아직 탐색이 부족한 적용 분야이며, 특히 이미지 복잡도나 레이블 품질 기반의 데이터 수준 커리큘럼을 사용할 경우 더 기대가 된다.
• 현재 NLP 분야의 커리큘럼 전략는 주로 텍스트 길이 같은 단순 히ュ리스틱에 의존하고 있어, 어휘 복잡도와 문법적 구조 기반의 더 인간에 가까운 커리큘럼이 필요하다는 점을 시사한다.
• 향후 커리큘럼 학습을 비-SGD 최적화 알고리즘(예: 진화적 탐색)과 통합할 경우, 표준 SGD와 보다 고급 최적화기 간의 성능 격차를 줄일 수 있다.