[論文レビュー] Automatic Business Process Structure Discovery using Ordered Neurons LSTM: A Preliminary Study

Xue Han, Lianxue Hu+5 more|arXiv (Cornell University)|Jan 5, 2020

Business Process Modeling and Analysis参考文献 13被引用数 6

ひとこと要約

本論文は、プロセスレベルの言語モデル化目的を活用して、テキスト文書からのビジネスプロセス記述における階層的構造的関係を自動で発見するための新規アプローチ、順序付きニューロンLSTM（ON-LSTM）を提案する。実世界のRPAプロジェクトデータを用いた評価において、単なるアクティビティ抽出を超えた潜在的な意味的階層を明らかにするという点で、有望な結果が得られた。

ABSTRACT

Automatic process discovery from textual process documentations is highly desirable to reduce time and cost of Business Process Management (BPM) implementation in organizations. However, existing automatic process discovery approaches mainly focus on identifying activities out of the documentations. Deriving the structural relationships between activities, which is important in the whole process discovery scope, is still a challenge. In fact, a business process has latent semantic hierarchical structure which defines different levels of detail to reflect the complex business logic. Recent findings in neural machine learning area show that the meaningful linguistic structure can be induced by joint language modeling and structure learning. Inspired by these findings, we propose to retrieve the latent hierarchical structure present in the textual business process documents by building a neural network that leverages a novel recurrent architecture, Ordered Neurons LSTM (ON-LSTM), with process-level language model objective. We tested the proposed approach on data set of Process Description Documents (PDD) from our practical Robotic Process Automation (RPA) projects. Preliminary experiments showed promising results.

研究の動機と目的

• 既存のプロセス発見手法がアクティビティ抽出にのみ焦点を当てており、構造的関係を無視するというギャップに対処すること。
• テキストベースのビジネスプロセス文書における潜在的な階層的構造を自動的に推論すること。
• ON-LSTMを用いた同時言語モデル化と構造学習が、複雑なビジネス論理を効果的に捉えることができるかどうかを検討すること。
• RPAプロジェクトからの実世界のプロセス記述文書（PDD）を用いて、このアプローチを検証すること。
• ニューラルシーケンスモデリングと構造的メモリを組み合わせることで、ビジネスプロセスの構造的発見が向上することを示すこと。

提案手法

• 本手法は、順序付きニューロンLSTM（ON-LSTM）を採用しており、これは記憶セルユニットの動的順序付けを学習することで、逐次的依存関係をより良くモデル化する再帰的ニューラルネットワークの変種である。
• テキストベースのビジネスプロセス文書に対してON-LSTMを訓練するために、プロセスレベルの言語モデル化目的が用いられ、モデルが意味的な構造的パターンを学ぶよう促される。
• モデルは、実際のロボティックプロセスオートメーション（RPA）プロジェクトから収集したプロセス記述文書（PDD）上でエンドツーエンドに訓練される。
• アクティビティ間の構造的関係は、シーケンス処理中のON-LSTMの内部メモリダイナミクスと注目パターンを分析することで推論される。
• 言語的構造の階層的性質を活用することで、多段階のビジネスプロセス抽象化を回復する。
• モデルが潜在的な意味的階層を学習・表現できる能力は、実世界のデータを用いた定性的および予備的な定量的分析を通じて評価される。

実験結果

リサーチクエスチョン

• RQ1 ON-LSTMは、テキストベースのビジネスプロセス記述における潜在的な階層的構造を効果的に学習・表現できるか？
• RQ2 ON-LSTMにおける同時言語モデル化と構造学習は、標準的なRNNと比較して、構造的関係の発見をどの程度向上させるか？
• RQ3 モデルは、非構造化されたテキストベースの文書から、多段階のプロセス抽象化をどの程度推論できるか？
• RQ4 ON-LSTMにおける順序付きメモリユニットの使用は、プロセス文書における複雑なビジネス論理のモデリングをどの程度向上させるか？
• RQ5 本手法は、実世界のRPAプロセス記述文書から構造的関係を回復する際に、どの程度のパフォーマンスを示すか？

主な発見

• 提案されたON-LSTMベースのアプローチは、単なるアクティビティ抽出を超えて、ビジネスプロセス記述における潜在的な階層的構造を効果的に捉えることに成功した。
• 実世界のRPAプロセス記述文書（PDD）を用いた予備的実験により、モデルが意味的な構造的関係を推論できる能力が示された。
• プロセスレベルの言語モデル化とON-LSTMの統合により、テキスト文書における複雑なビジネス論理の表現が向上した。
• 本手法は、多段階のプロセス抽象化を自動で発見する可能性を示しており、スケーラブルなBPM自動化への応用が期待される。
• 結果から、ON-LSTMにおける構造的メモリメカニズムが、ビジネスプロセステキストにおける意味的階層のモデリングに有効であることが示された。
• 定性的な分析により、推論されたプロセス階層の構造的整合性を捉える点で、本手法はベースライン手法を上回っていることが確認された。