[论文解读] Incremental Learning of Event Definitions with Inductive Logic Programming

Nikos Katzouris, Alexander Artikis+1 more|arXiv (Cornell University)|Feb 24, 2014

Logic, Reasoning, and Knowledge参考文献 10被引用 5

一句话总结

本文提出 ILED，一种增量归纳逻辑编程系统，可学习并修订以事件演算程序形式表示的事件定义。通过结合归结-归纳学习与条款覆盖的压缩记忆结构，ILED 能够在新时间数据到达时高效地修订假设，实现无需从头开始重新训练的可扩展、单遍学习——在真实世界活动识别与交通管理数据上的实验表明，其速度显著快于 XHAIL，同时保持了预测准确性。

ABSTRACT

Event recognition systems rely on properly engineered knowledge bases of event definitions to infer occurrences of events in time. The manual development of such knowledge is a tedious and error-prone task, thus event-based applications may benefit from automated knowledge construction techniques, such as Inductive Logic Programming (ILP), which combines machine learning with the declarative and formal semantics of First-Order Logic. However, learning temporal logical formalisms, which are typically utilized by logic-based Event Recognition systems is a challenging task, which most ILP systems cannot fully undertake. In addition, event-based data is usually massive and collected at different times and under various circumstances. Ideally, systems that learn from temporal data should be able to operate in an incremental mode, that is, revise prior constructed knowledge in the face of new evidence. Most ILP systems are batch learners, in the sense that in order to account for new evidence they have no alternative but to forget past knowledge and learn from scratch. Given the increased inherent complexity of ILP and the volumes of real-life temporal data, this results to algorithms that scale poorly. In this work we present an incremental method for learning and revising event-based knowledge, in the form of Event Calculus programs. The proposed algorithm relies on abductive-inductive learning and comprises a scalable clause refinement methodology, based on a compressive summarization of clause coverage in a stream of examples. We present an empirical evaluation of our approach on real and synthetic data from activity recognition and city transport applications.

研究动机与目标

• 解决批量 ILP 系统在处理大规模、时间结构化事件数据时的可扩展性与低效问题。
• 实现对新证据的事件定义增量修订，避免从头开始重新训练。
• 支持非单调推理，结合“失败即否定”（Negation as Failure）与非观测谓词学习，以应对不完整或隐含的事件知识。
• 开发可扩展至真实世界时间应用（如活动识别与城市交通监控）的理论修订系统。
• 将归结推理与 ILP 相结合，用于基于逻辑的事件识别系统中事件定义的学习。

提出的方法

• ILED 使用归结-归纳学习，结合 XHAIL 的归纳偏好与归结推理，以处理不可观测谓词与不完整知识。
• 它维护一种压缩记忆结构，对示例流中的条款覆盖情况进行总结，从而实现高效的理论修订。
• 条款精炼由一个支持集示例引导，保留先前覆盖关系，减少修订过程中的冗余计算。
• 该系统采用单遍、增量学习策略，随着新数据的到来逐步修订假设，而非从头开始重新学习。
• 它利用关系模式追踪哪些示例被哪些条款覆盖，从而在精炼过程中实现有针对性的重新评估。
• 该方法支持类似 Datalog 的逻辑程序，包含“失败即否定”机制与用于时空推理的辅助条款。

实验结果

研究问题

• RQ1 ILP 系统能否在流式、时间结构化数据环境中高效学习并修订事件定义？
• RQ2 如何有效结合非单调逻辑（含失败即否定）与 ILP 中的增量理论修订？
• RQ3 对条款覆盖的压缩总结在时间事件识别的增量 ILP 中能在多大程度上提升可扩展性？
• RQ4 归结推理能否增强 ILP 中对不可观测或隐含事件相关谓词的学习？
• RQ5 在真实世界时间数据上，与批量学习相比，增量修订在效率、准确率与假设规模方面表现如何？

主要发现

• ILED 在大规模时间数据上的效率显著高于 XHAIL，其性能可扩展，且随数据量增长保持可处理性。
• ILED 维持了与 XHAIL 相当的预测准确率与假设规模，在采用增量学习的情况下未降低质量。
• 压缩记忆结构实现了单遍修订，通过支持集保留先前覆盖关系，显著降低了推理成本。
• ILED 有效处理了基于“失败即否定”的非单调推理与非观测谓词学习，克服了大多数 ILP 系统的局限性。
• 在活动识别与城市交通应用的真实与合成数据上的实证评估证实了其可扩展性与鲁棒性。
• 在处理大规模、顺序事件流时，ILED 在运行时间与内存使用方面优于 XHAIL 等批处理学习器。