[论文解读] ASP Essentials: Modelling and Efficient Solving (Invited Paper)

Mark Law, Alessandra Russo|arXiv (Cornell University)|May 2, 2020

Logic, Reasoning, and Knowledge参考文献 27被引用 22

一句话总结

本文提出 ILASP，一种用于归纳学习答案集程序（ASPs）的系统，通过支持普通规则、选择规则以及硬约束和弱约束，扩展了传统归纳逻辑编程（ILP）。该系统引入了一种冲突驱动学习框架，通过迭代生成约束提升可扩展性，从而能够高效学习复杂、非单调的逻辑程序，适用于正例、负例和排序示例——尤其在偏好学习和现实世界知识获取方面表现优异。

ABSTRACT

Answer Set Programming (ASP) is a logic-based Knowledge Representation and Reasoning (KRR) paradigm that facilitates rapid prototyping of solutions for complex problems. It is particularly effective for tackling Deep Reasoning tasks involving exponentially large search spaces, such as combinatorial search and optimization. While getting started with ASP is relatively easy, mastering its advanced constructs and scaling solutions to real-world problem sizes can be challenging. This paper provides an introduction to ASP, guiding the reader from the fundamentals of the language to the application of programming methodologies and the computation of answer sets. Beyond the core framework, the paper also examines selected extensions of ASP that enable the modeling of complex problems, as well as compilation techniques designed to enhance solving efficiency. Furthermore, it mentions some recent tools that combine ASP with LLMs.

研究动机与目标

• 开发一种可扩展的通用系统，用于从示例中学习答案集程序（ASPs），超越传统基于 Prolog 的 ILP。
• 通过支持表达性强的 ASP 构造（如选择规则和弱约束）来克服现有 ILP 框架的局限性。
• 通过引入指定优选答案集的排序示例，实现偏好学习。
• 通过基于迭代约束的机器学习方法，提升在处理噪声数据、大规模示例集和大搜索空间时的可扩展性和效率。

提出的方法

• ILASP 系统采用一种结合勇敢推理与谨慎推理的学习框架，用于学习完整的 ASP 程序类，包括先前系统无法处理的程序。
• 它使用背景知识、模式偏差（定义规则空间）以及三类示例（正例、负例和用于弱约束的排序示例）来建模学习任务。
• 该系统采用冲突驱动方法，每次迭代基于相关示例生成约束，逐步精炼解空间。
• ILASP3 引入了示例转换器，将相关示例转换为覆盖约束，近似程序得分，以指导高效搜索。
• 程序搜索利用这些近似值寻找最优假设，通过在预测可覆盖的示例集合中搜索相关示例进行验证。
• ILASP4 进一部优化，仅生成必要（而非充分）约束，尽管可能导致更多次迭代，但显著降低了每次迭代的计算成本。

实验结果

研究问题

• RQ1 通用 ILP 系统能否学习完整的答案集程序类，包括需要同时使用勇敢和谨慎推理的程序（这些程序在传统勇敢或谨慎 ILP 框架下无法学习）？
• RQ2 如何使 ILP 系统在保持正确性和最优性的同时，具备可扩展性，以处理大规模示例集、噪声数据和大搜索空间？
• RQ3 基于约束的冲突驱动搜索对 ASP 的归纳逻辑编程在效率和收敛性方面有何影响？
• RQ4 能否有效剪枝规则空间以避免完整枚举，这种剪枝在实践中如何提升可扩展性？
• RQ5 如何在 ILP 中形式化并支持偏好学习，通过指定优选答案集的排序示例？

主要发现

• ILASP 能够学习完整的答案集程序类，包括需要同时使用勇敢和谨慎推理的程序，这是先前系统无法实现的。
• 弱约束的集成支持了偏好学习，使系统能够从优选解的示例中推断用户偏好。
• ILASP3 通过使用覆盖约束近似程序得分，显著提升了可扩展性，相比 ILASP2i 所需迭代次数更少。
• ILASP3 和 ILASP4 中的冲突驱动方法通过生成对示例覆盖所必需的约束，减少了搜索空间，提升了效率，尽管约束大小有所增加。
• FastLAS 是从 ILASP 衍生出的新算法，可计算规则空间的 OPT-充分子集，将其规模减少数个数量级，从而实现使用 Clingo 的单次求解。
• ILASP4 将约束生成放松为仅必要条件，使得每次迭代的约束更小、更快，即使需要更多次迭代，整体性能仍得到提升。