[论文解读] Inferring Temporal Logic Properties from Data using Boosted Decision Trees

Erfan Aasi, Cristian-Ioan Vasile+2 more|arXiv (Cornell University)|May 24, 2021

Bayesian Modeling and Causal Inference参考文献 27被引用 4

一句话总结

本论文提出了一种新颖的提升决策树（BDT）框架，用于从时间序列数据中学习可解释的信号时序逻辑（STL）公式与预测器，实现对部分观测（前缀）信号的实时、增量式信号标签预测。该方法在自动驾驶和海军监视等应用中，相较于以往工作，实现了更高的预测准确率和更好的运行时可扩展性，同时具备更优的早期异常检测能力。

ABSTRACT

Many autonomous systems, such as robots and self-driving cars, involve real-time decision making in complex environments, and require prediction of future outcomes from limited data. Moreover, their decisions are increasingly required to be interpretable to humans for safe and trustworthy co-existence. This paper is a first step towards interpretable learning-based robot control. We introduce a novel learning problem, called incremental formula and predictor learning, to generate binary classifiers with temporal logic structure from time-series data. The classifiers are represented as pairs of Signal Temporal Logic (STL) formulae and predictors for their satisfaction. The incremental property provides prediction of labels for prefix signals that are revealed over time. We propose a boosted decision-tree algorithm that leverages weak, but computationally inexpensive, learners to increase prediction and runtime performance. The effectiveness and classification accuracy of our algorithms are evaluated on autonomous-driving and naval surveillance case studies.

研究动机与目标

• 为解决机器人领域中实时决策问题，即在完整信号观测完成前必须采取行动，通过从不完整数据中实现信号标签的早期预测。
• 开发一种可解释的学习型控制框架，将形式化时序逻辑（STL）与机器学习相结合，以支持人类可信赖的机器人决策。
• 制定并求解一个增量学习问题，实现在信号随时间逐步揭示的过程中，对前缀信号的STL公式满足度进行预测。
• 通过采用基于精确MILP优化的提升决策树方法进行公式合成，提升预测准确率与运行时效率，超越现有方法。
• 在真实世界机器人场景（包括自动驾驶与海军监视）中评估该框架，证明其在异常检测中的实际应用价值。

提出的方法

• 该框架学习一对（STL公式，预测函数），作为二分类器，其中公式定义一个逻辑属性，而预测函数则从部分信号中估计其满足度。
• 提升决策树（BDT）算法通过自适应加权组合弱学习器（有界深度决策树），类似于AdaBoost，以提升整体预测准确率。
• 在每个树节点上，使用精确的混合整数线性规划（MILP）公式计算最小不纯度的STL公式，确保在每个分裂点实现最优公式合成。
• 增量学习变体在新信号数据到达时动态更新模型，实现在信号完成前的实时预测，通过启发式方法根据信号进展触发更新。
• 离线版本处理完整信号，而增量版本通过评估信号前缀支持早期预测，这对时间敏感应用至关重要。
• 该方法采用5折与10折交叉验证进行评估，并与先前工作对比，性能指标包括误分类率（MCR）、增量MCR（IMCR）与运行时间。

实验结果

研究问题

• RQ1 学习框架能否实现实时预测时间有序的不完整信号中时序逻辑属性的满足度？
• RQ2 如何从时间序列数据中自动合成可解释的、基于逻辑的分类器，以支持人类可理解的机器人决策？
• RQ3 与现有方法相比，采用提升决策树结合MILP优化STL公式的方案在预测准确率与运行时间方面有何性能提升？
• RQ4 在早期异常检测任务中，增量学习与离线学习相比表现如何，特别是在自动驾驶与海军监视场景中？
• RQ5 所提出的基于BDT的方法能否在保持低误分类率的同时高效扩展，特别是在深层树存在过拟合风险的情况下？

主要发现

• 所提出的离线算法在5折交叉验证中相较[6]实现了12%的误分类率（MCR）相对改进，在10折交叉验证中实现了7%的改进。
• 在增量学习设置中，模型将增量MCR（IMCR）降低至38.34%，而离线方法为48.24%，表明其具备更优的早期预测能力。
• 在海军监视案例研究中，增量模型相比离线方法实现了10%的预测准确率提升，实现了对异常船舶行为的更早检测。
• 基于MILP的公式优化在树深为1时优于粒子群优化（PSO），但在更深的树中（深度=3）表现出更高的过拟合风险，MILP在训练集上MCR为1.45%，测试集上为1.75%，表明存在潜在过拟合。
• 尽管运行速度慢于单棵树方法，BDT框架在树数量增加时展现出更好的可扩展性，离线增量学习总运行时间为1小时7分钟，离线学习为8分钟，证实了其实际可行性。
• 在增量设置中，该方法表现出随时间线性提升的预测能力，MCR随着更多信号数据的可用而持续下降，支持可靠的实时推理。