[논문 리뷰] Automated Machine Learning with Monte-Carlo Tree Search

Herilalaina Rakotoarison, Marc Schoenauer외 1명|arXiv (Cornell University)|2019. 06. 01.

Machine Learning and Data Classification참고 문헌 19인용 수 5

한 줄 요약

이 논문은 몬테카를로 트리 탐색(MCTS)을 사용한 구조적 파이프라인 최적화와 공유된 서rogate 모델을 사용한 하이퍼파ram터 튜닝을 결합한 새로운 AutoML 프레임워크인 Mosaic를 제안한다. Mosaic는 OpenML-100 벤치마크에서 Auto-Sklearn보다 통계적으로 유의미한 성능 향상을 이룩하며, 특히 바닐라 및 앙상블 버전에서 높은 성능을 보여주어 비용이 많이 드는 블랙박스 AutoML 환경에서 더 나은 탐색 및 최적화 효율성을 입증한다.

ABSTRACT

The AutoML task consists of selecting the proper algorithm in a machine learning portfolio, and its hyperparameter values, in order to deliver the best performance on the dataset at hand. Mosaic, a Monte-Carlo tree search (MCTS) based approach, is presented to handle the AutoML hybrid structural and parametric expensive black-box optimization problem. Extensive empirical studies are conducted to independently assess and compare: i) the optimization processes based on Bayesian optimization or MCTS; ii) its warm-start initialization; iii) the ensembling of the solutions gathered along the search. Mosaic is assessed on the OpenML 100 benchmark and the Scikit-learn portfolio, with statistically significant gains over Auto-Sklearn, winner of former international AutoML challenges.

연구 동기 및 목표

• 비용이 많이 드는 평가를 수반하는 하이브리드 구조적 및 매개변수 최적화 문제로서의 자동 머신러닝(AutoML) 도전 과제를 해결하기 위해.
• 파이프라인 아키텍처 탐색을 위한 MCTS와 하이퍼파ram터 튜닝을 위한 베이지안 최적화를 결합하여 기존 AutoML 시스템을 향상시키기 위해.
• Mosaic의 통합 최적화 전략이 Auto-Sklearn 및 Tpot와 같은 최신 기준 시스템과 비교하여 효과적으로 작동하는지 평가하기 위해.
• 워밍스타트 초기화, 앙상블 전략, 그리고 서rogate 모델 사용이 AutoML 성능에 미치는 영향을 조사하기 위해.
• Mosaic의 하이퍼파ram터가 다양한 데이터셋에서 얼마나 강건하고 민감한지 평가하기 위해.

제안 방법

• Mosaic는 머신러닝 파이프라인의 구조적 공간을 탐색하기 위해 몬테카를로 트리 탐색(MCTS)을 사용하며, 파이프라인 구성 문제를 순차적 결정 과정으로 간주한다.
• 각 MCTS 노드에서 서rogate 모델은 해당 노드 아래의 모든 가능한 파이프라인 완성에 대한 기대 성능을 추정하여 트리 확장을 안내한다.
• 롤아웃 과정에서는 동일한 서rogate 모델을 활용하여 주어진 파이프라인 구성에 최적의 하이퍼파ram터를 선택하기 위해 베이지안 최적화를 사용한다.
• 서rogate 모델은 새로운 평가 결과로 지속적으로 업데이트되며, 탐색(MCTS)과 국소 탐색(베이지안 최적화)을 모두 안내하는 데 사용된다.
• Mosaic는 여러 변종을 지원한다: 바닐라(순수한 MCTS), 메타러닝(사전 계산된 아카이브에서 워밍스타트), 앙상블(탐색 중 발견된 다수의 구성을 통합).
• 성능는 스クラ치패키지 파이프라인 포트폴리오를 사용하여 OpenML-100 벤치마크에서 평가되며, 평균 순위와 통계적 유의성 검증을 통해 측정된다.

실험 결과

연구 질문

• RQ1 공유된 서rogate 모델을 통해 MCTS와 베이지안 최적화를 결합하면, 각각을 별도로 사용할 때보다 더 나은 AutoML 성능을 이끌 수 있는가?
• RQ2 Mosaic의 탐색 전략은 OpenML-100 벤치마크에서 Auto-Sklearn의 전략과 비교해 볼 때 효율성과 성능 향상 측면에서 어떻게 다른가?
• RQ3 메타러닝을 통한 워밍스타트 초기화가 특히 대규모 데이터셋에서 Mosaic의 성능 향상에 얼마나 기여하는가?
• RQ4 Mosaic의 성능는 탐색 계수 $C_{ucb}$와 롤아웃 수 $n_s$와 같은 하이퍼파라미터에 얼마나 민감한가?
• RQ5 탐색 과정에서 발견된 여러 구성을 통합하는 앙상블 전략은 일반화 능력과 강건성을 더욱 향상시킬 수 있는가?

주요 결과

• Mosaic의 바닐라 및 앙상블 변종은 OpenML-100 벤치마크에서 Auto-Sklearn보다 통계적으로 유의미한 성능 향상을 보이며, 모든 데이터셋에서 평균 순위가 낮게 나타났다.
• 메타러닝 변종는 대부분의 최적화 노력이 초기화에 소요되면서, 특히 1시간 제한 시간이 설정된 대규모 데이터셋에서 Auto-Sklearn에 비해 성능 향상이 떨어졌다.
• Mosaic는 Auto-Sklearn가 초기 구성 근처에 머무르는 경향이 있는 것과는 달리 더 철저한 탐색 전략을 보이며, 높은 성능을 낼 수 있는 파이프라인을 더 잘 발견한다.
• 민감도 분석 결과, Mosaic의 성능는 $C_{ucb}$와 $n_s$의 변동에 대해 강건하며, 하이퍼파라미터 조합 30개 중 24개에서 Auto-Sklearn를 초월하는 성능를 기록했다.
• 서rogate 모델은 MCTS와 베이지안 최적화 간에 효과적으로 공유되어, 별도의 모델 학습 없이도 조율된 탐색과 이용을 가능하게 한다.
• Mosaic는 평균 순위 측면에서 일관되게 Auto-Sklearn를 능가하며, 특히 탐색 과정의 초반 및 중반 단계에서 가장 두드러진 향상이 관찰되었다.