Skip to main content
QUICK REVIEW

[论文解读] Distributed Online Learning of Event Definitions

Nikos Katzouris, Alexander Artikis|arXiv (Cornell University)|May 5, 2017
Logic, Reasoning, and Knowledge参考文献 11被引用 3
一句话总结

本文提出了一种基于事件演算的分布式在线学习系统,用于事件定义的学习,将单次遍历的OLED算法扩展至跨数据流的并行、地理分布学习。通过应用Hoeffding界限,在不相交的数据分区上独立评估子句特化,并高效合并得分,该方法实现了高达3.8倍的加速,同时节点间通信极少,显著缩短了训练时间,且保持了较高的F1得分。

ABSTRACT

Logic-based event recognition systems infer occurrences of events in time using a set of event definitions in the form of first-order rules. The Event Calculus is a temporal logic that has been used as a basis in event recognition applications, providing among others, direct connections to machine learning, via Inductive Logic Programming (ILP). OLED is a recently proposed ILP system that learns event definitions in the form of Event Calculus theories, in a single pass over a data stream. In this work we present a version of OLED that allows for distributed, online learning. We evaluate our approach on a benchmark activity recognition dataset and show that we can significantly reduce training times, exchanging minimal information between processing nodes.

研究动机与目标

  • 实现从高速、分布式数据流中可扩展的、实时的复杂事件定义学习。
  • 将单次遍历的在线ILP系统OLED扩展至无共享内存的分布式并行环境。
  • 在保持学习准确性的前提下,最小化处理节点间的通信开销。
  • 在不同数据分布和规模下,于基准活动识别数据集上评估该方法。
  • 实现在如海上监控等真实世界地理分布场景中的部署。

提出的方法

  • 该方法采用数据并行策略,每个节点在其本地数据分区上独立使用Hoeffding界限估算候选子句特化的质量,以评估子句特化。
  • 各节点的子句得分被聚合以做出全局的特化决策,同时保留了原始OLED算法的在线、单次遍历特性。
  • 系统维持一个预热阶段,以确保子句在被纳入假设前已基于足够多的示例进行评估。
  • 该方法利用事件演算作为表示事件定义和流变的逻辑框架,并使用领域特定的公理定义initiatedAt和terminatedAt谓词。
  • 该方法避免了迭代的集合覆盖循环,转而依赖基于统计置信度边界的增量式、自顶向下的子句特化。
  • 通过仅交换子句得分和决策,而非原始数据或完整假设,最大限度减少通信开销。

实验结果

研究问题

  • RQ1能否在地理隔离的分布式数据流上有效并行化在线单次遍历ILP学习?
  • RQ2如何在保持学习准确性和收敛性的同时,实现最小化的节点间通信?
  • RQ3与在大规模数据流上顺序学习相比,该分布式OLED方法在多大程度上减少了训练时间?
  • RQ4该分布式系统是否保持了原始单节点OLED算法的F1得分和假设质量?
  • RQ5数据重复(如×10 CAVIAR)在分布式在线学习中对收敛性和性能的影响如何?

主要发现

  • 在×10 CAVIAR实验中,分布式OLED系统实现了高达3.8倍的训练时间加速,证明了显著的可扩展性。
  • 在×10 CAVIAR实验中,所有核心数量下的F1得分保持一致,表明学习性能稳定可靠。
  • 在×1 CAVIAR实验中,由于更大的数据量使预热阶段能更充分评估子句,减少了后期子句构建,F1得分得到提升。
  • 该系统成功缓解了单节点OLED设置中因‘过晚’构建子句而导致子句被丢弃的问题。
  • 在某些配置下实现了超线性加速,表明负载分配高效且通信瓶颈极少。
  • 极低的通信开销——仅限于子句得分和决策——证明了其在高速、分布式数据环境中的可行性。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。