[论文解读] When data mining meets optimization: A case study on the quadratic assignment problem

Yangming Zhou, Jin‐Kao Hao+1 more|arXiv (Cornell University)|Aug 17, 2017

Data Mining Algorithms and Applications参考文献 39被引用 3

一句话总结

本文提出了一种名为频繁模式搜索（Frequent Pattern Based Search, FPBS）的混合优化方法，将数据挖掘与元启发式算法相结合，以求解二次分配问题（Quadratic Assignment Problem, QAP）。通过从精英解中挖掘频繁模式，并利用这些模式构建新的初始解，FPBS在2小时内于21个基准实例中找到了19个最佳已知解，性能达到当前最先进水平。

ABSTRACT

This paper presents a hybrid approach called frequent pattern based search that combines data mining and optimization. The proposed method uses a data mining procedure to mine frequent patterns from a set of high-quality solutions collected from previous search, and the mined frequent patterns are then employed to build starting solutions that are improved by an optimization procedure. After presenting the general approach and its composing ingredients, we illustrate its application to solve the well-known and challenging quadratic assignment problem. Computational results on the 21 hardest benchmark instances show that the proposed approach competes favorably with state-of-the-art algorithms both in terms of solution quality and computing time.

研究动机与目标

• 为解决NP难组合优化问题中元启发式搜索的探索与开发之间的平衡挑战。
• 探究从高质量解中提取的频繁模式是否能够指导有效初始解的构建。
• 评估所提出的FPBS框架在极具挑战性的QAP基准实例上的性能表现。
• 分析关键参数（如频繁模式数量和挖掘阈值）对算法性能的影响。

提出的方法

• FPBS框架在数据挖掘阶段与优化阶段之间交替进行：前者从一组精英解中提取频繁模式，后者利用这些模式构建新的初始解。
• 使用最大频繁项集算法挖掘频繁模式，其中模式代表高质量解中反复出现的配置。
• 通过固定最频繁模式中项目的位置来构建新解，并对剩余元素应用局部搜索算法进行优化。
• 算法维护一个精英解集合，并定期更新以包含新发现的高质量解。
• 采用动态参数更新策略控制模式挖掘与解优化的频率，参数通过经验分析进行调优。
• 在QAP中，通过将排列建模为项集来应用该方法，其中每个分配位置对应一条事务。

实验结果

研究问题

• RQ1 能否从精英解中提取的频繁模式来指导组合优化中高质量初始解的构建？
• RQ2 挖掘出的频繁模式数量如何影响所构建解的多样性和质量？
• RQ3 与标准元启发式算法相比，将数据挖掘集成到搜索过程中是否能提升解的质量和收敛速度？
• RQ4 最小支持阈值和模式数量等参数设置对算法性能有何影响？

主要发现

• 在2小时时间限制内，FPBS在QAPLIB基准实例中的21个实例里，有19个达到了最佳已知目标值，仅在tai80a和tai100a上略有偏差。
• FPBS相对于最佳已知解的平均百分比偏差（PD）为0.043%，显著优于基线版本FPBS-QAP 0的0.056%。
• 该算法在解的质量和计算效率方面均优于当前最先进算法，所有实例的平均运行时间为8.6分钟。
• 最优频繁模式数量被确定为11，因其在多个测试实例上实现了最佳性能，而过少或过多的模式数量均导致性能下降。
• 与FPBS-QAP 0相比，FPBS-QAP中引入的类似变异的操作显著提升了解的质量，证实了模式引导多样化策略的价值。
• 参数调优（特别是β=0.75和max_no_update=15）对平衡探索与开发至关重要，性能对这些设置非常敏感。