[论文解读] Automatic Business Process Structure Discovery using Ordered Neurons LSTM: A Preliminary Study

Xue Han, Lianxue Hu+5 more|arXiv (Cornell University)|Jan 5, 2020

Business Process Modeling and Analysis参考文献 13被引用 6

一句话总结

本文提出了一种新颖的方法，利用有序神经元LSTM（ON-LSTM）从文本文档中自动发现业务流程描述中的分层结构关系，借助流程级别的语言建模范式。在真实世界RPA项目数据上的评估表明，该方法在揭示超越简单活动提取的潜在语义层次结构方面表现出色。

ABSTRACT

Automatic process discovery from textual process documentations is highly desirable to reduce time and cost of Business Process Management (BPM) implementation in organizations. However, existing automatic process discovery approaches mainly focus on identifying activities out of the documentations. Deriving the structural relationships between activities, which is important in the whole process discovery scope, is still a challenge. In fact, a business process has latent semantic hierarchical structure which defines different levels of detail to reflect the complex business logic. Recent findings in neural machine learning area show that the meaningful linguistic structure can be induced by joint language modeling and structure learning. Inspired by these findings, we propose to retrieve the latent hierarchical structure present in the textual business process documents by building a neural network that leverages a novel recurrent architecture, Ordered Neurons LSTM (ON-LSTM), with process-level language model objective. We tested the proposed approach on data set of Process Description Documents (PDD) from our practical Robotic Process Automation (RPA) projects. Preliminary experiments showed promising results.

研究动机与目标

• 解决现有流程发现方法仅关注活动提取而忽略结构关系的不足。
• 自动推断文本化业务流程文档中的潜在分层结构。
• 探究通过ON-LSTM联合语言建模与结构学习是否能有效捕捉复杂的业务逻辑。
• 在来自RPA项目的实际流程描述文档（PDD）上验证该方法。
• 证明使用结构化记忆的神经序列建模可提升业务流程结构发现的效果。

提出的方法

• 该方法采用有序神经元LSTM（ON-LSTM），一种循环神经网络变体，通过学习记忆单元的动态排序来更好地建模序列依赖关系。
• 采用流程级别的语言建模范式对ON-LSTM进行训练，以鼓励模型学习有意义的结构模式。
• 模型在从实际机器人流程自动化（RPA）项目中收集的流程描述文档（PDD）上进行端到端训练。
• 通过分析ON-LSTM在序列处理过程中内部记忆动态和注意力模式，推断活动之间的结构关系。
• 该方法利用语言结构的层次特性，以恢复多层级的业务流程抽象。
• 通过在真实世界数据上的定性与初步定量分析，评估模型学习和表示潜在语义层次结构的能力。

实验结果

研究问题

• RQ1 ON-LSTM能否有效学习并表示文本化业务流程描述中的潜在分层结构？
• RQ2 与标准RNN相比，ON-LSTM中联合语言建模与结构学习在提升结构关系发现方面表现如何？
• RQ3 该模型在多大程度上能从未结构化的文本文档中推断出多层级的流程抽象？
• RQ4 ON-LSTM中有序记忆单元的使用是否增强了对流程文档中复杂业务逻辑的建模能力？
• RQ5 该方法在从真实世界RPA流程文档中恢复结构关系方面的表现如何？

主要发现

• 所提出的基于ON-LSTM的方法成功捕捉了业务流程描述中超越简单活动提取的潜在分层结构。
• 在真实世界RPA流程描述文档（PDD）上的初步实验表明，该模型具备推断有意义结构关系的能力。
• 将流程级别的语言建模与ON-LSTM相结合，能够更好地表示文本文档中的复杂业务逻辑。
• 该方法在自动发现多层级流程抽象方面展现出潜力，暗示其在可扩展BPM自动化中的应用前景。
• 结果表明，ON-LSTM中的结构化记忆机制在建模业务流程文本中的语义层次结构方面非常有效。
• 定性分析显示，该方法在捕捉结构连贯性方面优于基线方法。