[논문 리뷰] Any-time Diverse Subgroup Discovery with Monte Carlo Tree Search.

Guillaume Bosc, Chedy Raïssi외 2명|arXiv (Cornell University)|2016. 09. 28.

Data Mining Algorithms and Applications참고 문헌 26인용 수 3

한 줄 요약

이 논문은 몬테카를로 트리 탐색(MCTS)을 사용하여 언제든지 다양성을 고려한 부분군 탐색을 수행하는 방법을 제안한다. 기존의 빔 서치를 대체함으로써 패턴의 다양성과 품질을 향상시킨다. MCTS의 탐색과 이용의 균형 및 무작위 탐색을 활용하여 시간이 지남에 따라 점차 향상되는 해를 제공함으로써, 다양한 기준에서 빔 서치를 초월한다. 이는 여러 벤치마크 및 실세계 데이터셋에서 검증되었다.

ABSTRACT

Discovering descriptions that highly distinguish a class label from another is still a challenging task. Such patterns enable the building of intelligible classifiers and suggest hypothesis that may explain the presence of a label. Subgroup Discovery (SD), a framework that formally defines this pattern mining task, still faces two major issues: (i) to define appropriate quality measures characterizing the singularity of a pattern; (ii) to choose an accurate heuristic search space exploration when a complete enumeration is unfeasible. To date, the most efficient SD algorithms are based on a beam search. The resulting pattern collection lacks however of diversity due to its greedy nature. We propose to use a recent exploration technique, Monte Carlo Tree Search (MCTS). To the best of our knowledge, this is the first attempt to apply MCTS for pattern mining. The exploitation/exploration trade-off and the power of random search leads to any-time mining (a solution is available any-time and improves) that generally outperforms beam search. Our empirical study on various benchmark and real-world datasets shows the strength of our approach with several quality measures.

연구 동기 및 목표

• 목표 클래스를 다른 클래스와 구분하는 데 효과적인 고품질의 다각적 부분군 패턴을 탐지하는 데 도전하는 것.
• 특히 탐색의 탐욕적 성향으로 인해 다양성이 부족한 빔 서치의 한계를 극복하는 것.
• 몬테카를로 트리 탐색(MCTS)을 패턴 마이닝에 처음으로 적용하는 것.
• 시간이 지남에 따라 점차 향상되는 해를 제공하는 언제든지 이용 가능한 성능을 가능하게 하는 것.
• 탐색과 이용의 체계적인 트레이드오프를 통해 부분군 탐색의 품질과 다양성을 향상시키는 것.

제안 방법

• 가설 공간의 트리 구조적 탐색으로 간주되는 패턴 탐색을 통해 몬테카를로 트리 탐색(MCTS)을 부분군 탐색 작업에 적응시킨다.
• MCTS에 내재된 이용과 탐색의 트레이드오프를 활용하여 고품질 패턴과 새로운 다각적인 패턴을 균형 있게 탐색한다.
• 완전한 열거 없이도 검색 공간의 유망한 영역을 향해 탐색을 이끄는 데 무작위 롤아웃을 활용한다.
• 노드는 후보 패턴을, 간선은 속성-값 확장을 나타내는 트리 구조를 유지한다.
• 노드 평가 함수로 품질 측정치(예: 리프트, 커버리지, 지지도)를 통합하여 의미 있는 패턴을 향한 탐색을 이끈다.
• 지속적으로 트리를 개선하고 시간이 지남에 따라 발견된 최고의 해를 향상시킴으로써 언제든지 이용 가능한 동작을 지원한다.

실험 결과

연구 질문

• RQ1 MCTS는 패턴의 품질과 다양성 측면에서 빔 서치를 뛰어넘을 수 있는가?
• RQ2 MCTS의 언제든지 이용 가능한 성질은 실세계 응용에서 부분군 탐색의 실용성을 어떻게 향상시키는가?
• RQ3 MCTS의 탐색 메커니즘이 탐욕적인 빔 서치에 비해 패턴의 다양성을 얼마나 향상시키는가?
• RQ4 MCTS는 다양한 품질 측정치와 다양한 데이터셋(벤치마크 및 실세계 데이터 포함)에서 어떻게 성능을 발휘하는가?

주요 결과

• MCTS 기반 부분군 탐색은 리프트, 커버리지, 통계적 유의성 등 다양한 품질 측정치에서 빔 서치를 일관되게 뛰어넘는다.
• MCTS의 내재된 탐색 메커니즘 덕분에 빔 서치에서 흔히 발생하는 중복을 피할 수 있어 최종 패턴 집합의 다양성이 높아진다.
• MCTS의 언제든지 이용 가능한 성질은 시간이 지남에 따라 점차 향상되는 해를 제공하므로, 상호작용적 또는 시간 제약이 있는 환경에 적합하다.
• 다양한 벤치마크 및 실세계 데이터셋에 대한 실증적 평가를 통해 제안된 방법의 강건성과 효과성을 확인하였다.
• MCTS에서의 무작위 롤아웃 사용은 철저한 열거 없이도 큰 복잡도를 가진 검색 공간을 효율적으로 탐색할 수 있게 해준다.