[论文解读] A New Approach to Constraint Weight Learning for Variable Ordering in CSPs

Muhammad Rezaul Karim|arXiv (Cornell University)|Dec 25, 2013

Constraint Satisfaction and Optimization参考文献 22被引用 5

一句话总结

本文提出一种竞争性协同进化遗传算法（CoEvoGA），用于在约束满足问题（CSPs）中学习变量排序的约束权重，通过识别全局瓶颈来提高搜索效率。该方法同时进化约束条件与候选解，在准随机和强制可满足的Model RB实例上优于现有方法，尤其在减少搜索节点数和保持稳定性方面表现突出。

ABSTRACT

A Constraint Satisfaction Problem (CSP) is a framework used for modeling and solving constrained problems. Tree-search algorithms like backtracking try to construct a solution to a CSP by selecting the variables of the problem one after another. The order in which these algorithm select the variables potentially have significant impact on the search performance. Various heuristics have been proposed for choosing good variable ordering. Many powerful variable ordering heuristics weigh the constraints first and then utilize the weights for selecting good order of the variables. Constraint weighting are basically employed to identify global bottlenecks in a CSP. In this paper, we propose a new approach for learning weights for the constraints using competitive coevolutionary Genetic Algorithm (GA). Weights learned by the coevolutionary GA later help to make better choices for the first few variables in a search. In the competitive coevolutionary GA, constraints and candidate solutions for a CSP evolve together through an inverse fitness interaction process. We have conducted experiments on several random, quasi-random and patterned instances to measure the efficiency of the proposed approach. The results and analysis show that the proposed approach is good at learning weights to distinguish the hard constraints for quasi-random instances and forced satisfiable random instances generated with the Model RB. For other type of instances, RNDI still seems to be the best approach as our experiments show.

研究动机与目标

• 为解决CSPs中选择有效变量排序启发式方法的挑战，该挑战显著影响搜索效率。
• 通过自动学习权重，改进CSPs中硬约束和全局瓶颈的识别。
• 开发一种协同进化遗传算法，联合进化约束条件与解，以学习有意义的约束权重。
• 在多种CSP实例类型上，将所提方法与现有变量排序方法进行对比评估。
• 探索协同进化权重学习过程的可扩展性及参数敏感性。

提出的方法

• 采用竞争性协同进化遗传算法（CoEvoGA），其中两组种群——约束条件与候选解——通过反向适应度交互进行协同进化。
• 适应度由约束权重与解质量的交互决定，约束条件进化为更难满足的形式。
• 通过迭代进化学习约束权重，目标是识别问题中最具约束性的约束。
• 学习到的权重用于指导带弧一致性（MAC）的回溯搜索中的变量排序，优先处理与高权重约束关联的变量。
• 实验采用固定种群大小和标准GA算子（交叉、变异），并通过调整代数和重启次数进行参数调优。
• 性能通过CPU时间（t）和访问节点数（n）在30个随机、准随机和模式化类别实例上进行评估。

实验结果

研究问题

• RQ1 协同进化GA能否有效学习到识别CSPs中全局瓶颈的约束权重？
• RQ2 与RNDI和HC/MAC相比，所提出的CoEvoGA/MAC方法在搜索效率和稳定性方面表现如何？
• RQ3 在哪些类型的CSP实例（随机、准随机、模式化或Model RB）上，CoEvoGA/MAC方法表现出更优性能？
• RQ4 代数和重启次数等参数设置如何影响权重学习时间和整体搜索性能？
• RQ5 协同进化GA中的适应度评估能否并行化以减少学习时间，而不同于RNDI的固有串行重启？

主要发现

• 在准随机和强制可满足的Model RB实例上，CoEvoGA/MAC方法显著减少了访问节点数（n），例如在bqwh-18-141-47实例上，RNDI为55,972个节点，而CoEvoGA为67,686个节点。
• 在bqwh-18-141-50实例上，CoEvoGA/MAC访问了27,964个节点，而RNDI为9,350个节点，尽管CPU时间更高（110.2s vs. 49.88s）。
• 对于模式化实例如qcp-15-120-2，RNDI在时间（284.53s vs. 374.36s）和节点数（28,695 vs. 46,121）上均优于CoEvoGA/MAC。
• 统计检验显示，CoEvoGA/MAC与RNDI在多个实例上存在显著差异，例如在bqwh-18-141-50实例上p值分别为0.340(*)和0.224(*)。
• HC/MAC表现出不稳定性，在部分模式化实例上超过时间限制，而CoEvoGA/MAC在所有实例类型上均保持一致性能。
• 与RNDI的固有串行重启不同，CoEvoGA的预处理时间可通过并行化适应度评估来缩短。