[论文解读] Any-time Diverse Subgroup Discovery with Monte Carlo Tree Search.

Guillaume Bosc, Chedy Raïssi+2 more|arXiv (Cornell University)|Sep 28, 2016

Data Mining Algorithms and Applications参考文献 26被引用 3

一句话总结

本文提出使用蒙特卡洛树搜索（MCTS）进行任意时间多样子群发现，以替代传统的束搜索，从而提升模式的多样性和质量。通过利用MCTS在探索与利用之间的平衡以及随机搜索机制，该方法能够随时间逐步提供更优的解决方案，在多个基准数据集和真实世界数据集上，于各类质量度量指标上均优于束搜索。

ABSTRACT

Discovering descriptions that highly distinguish a class label from another is still a challenging task. Such patterns enable the building of intelligible classifiers and suggest hypothesis that may explain the presence of a label. Subgroup Discovery (SD), a framework that formally defines this pattern mining task, still faces two major issues: (i) to define appropriate quality measures characterizing the singularity of a pattern; (ii) to choose an accurate heuristic search space exploration when a complete enumeration is unfeasible. To date, the most efficient SD algorithms are based on a beam search. The resulting pattern collection lacks however of diversity due to its greedy nature. We propose to use a recent exploration technique, Monte Carlo Tree Search (MCTS). To the best of our knowledge, this is the first attempt to apply MCTS for pattern mining. The exploitation/exploration trade-off and the power of random search leads to any-time mining (a solution is available any-time and improves) that generally outperforms beam search. Our empirical study on various benchmark and real-world datasets shows the strength of our approach with several quality measures.

研究动机与目标

• 为解决发现能将目标类别与其他类别区分开来的多样化、高质量子群模式的挑战。
• 克服束搜索在子群发现中的局限性，特别是其因贪婪探索而导致的多样性不足问题。
• 首次探索蒙特卡洛树搜索（MCTS）在模式挖掘中的应用。
• 实现任意时间性能，即在整个搜索过程中持续提供逐步优化的解决方案。
• 通过探索与利用之间的合理权衡，提升子群发现的质量与多样性。

提出的方法

• 通过将模式搜索建模为假设空间的树状探索，将蒙特卡洛树搜索（MCTS）适配至子群发现任务。
• 利用MCTS固有的利用与探索权衡机制，平衡高质量模式的发现与新颖、多样化模式的探索。
• 在MCTS中采用随机模拟（rollouts）来引导搜索朝向搜索空间中具有前景的区域，而无需进行完整枚举。
• 维护一棵树结构，其中节点代表候选模式，边代表属性-值的扩展。
• 将质量度量（如提升度、覆盖率和支撑度）作为节点评估函数，以引导搜索朝向有意义的模式。
• 通过持续优化树结构并逐步改进已发现的最佳解决方案，实现任意时间行为。

实验结果

研究问题

• RQ1 MCTS在发现的子群模式的质量与多样性方面是否优于束搜索？
• RQ2 MCTS的任意时间特性如何提升子群发现技术在真实世界应用中的实用性？
• RQ3 与贪婪的束搜索相比，MCTS的探索机制在多大程度上增强了模式的多样性？
• RQ4 MCTS在不同质量度量指标和多样化数据集（包括真实世界与基准数据）上的表现如何？

主要发现

• 基于MCTS的子群发现方法在多个质量度量（包括提升度、覆盖率和统计显著性）上持续优于束搜索。
• 由于MCTS固有的探索机制，最终生成的模式集合具有更高的多样性，避免了束搜索中常见的冗余问题。
• MCTS的任意时间特性可随时间持续提供更优的解决方案，适用于交互式或时间受限的场景。
• 在多种基准数据集和真实世界数据集上的实证评估验证了所提方法的稳健性与有效性。
• MCTS中使用随机模拟（rollouts）可高效探索大规模且复杂的搜索空间，而无需进行完整枚举。