[논문 리뷰] Automatic Business Process Structure Discovery using Ordered Neurons LSTM: A Preliminary Study

Xue Han, Lianxue Hu외 5명|arXiv (Cornell University)|2020. 01. 05.

Business Process Modeling and Analysis참고 문헌 13인용 수 6

한 줄 요약

이 논문은 텍스트 문서에서 비즈니스 프로세스 기술서의 계층적 구조적 관계를 자동으로 탐지하기 위해 순서화된 뉴런 LSTM(ON-LSTM)을 사용하는 새로운 접근법을 제안한다. 이는 프로세스 수준의 언어 모델링 목표를 활용한 것이다. 실제 RPA 프로젝트 데이터를 대상으로 평가한 결과, 단순한 활동 추출을 넘어서는 잠재적 의미적 계층을 드러내는 데 유망한 성과를 보였다.

ABSTRACT

Automatic process discovery from textual process documentations is highly desirable to reduce time and cost of Business Process Management (BPM) implementation in organizations. However, existing automatic process discovery approaches mainly focus on identifying activities out of the documentations. Deriving the structural relationships between activities, which is important in the whole process discovery scope, is still a challenge. In fact, a business process has latent semantic hierarchical structure which defines different levels of detail to reflect the complex business logic. Recent findings in neural machine learning area show that the meaningful linguistic structure can be induced by joint language modeling and structure learning. Inspired by these findings, we propose to retrieve the latent hierarchical structure present in the textual business process documents by building a neural network that leverages a novel recurrent architecture, Ordered Neurons LSTM (ON-LSTM), with process-level language model objective. We tested the proposed approach on data set of Process Description Documents (PDD) from our practical Robotic Process Automation (RPA) projects. Preliminary experiments showed promising results.

연구 동기 및 목표

• 기존의 프로세스 발굴 방법이 활동 추출에만 초점을 맞추고 구조적 관계를 간과한다는 격차를 해결하기 위해.
• 텍스트 기반 비즈니스 프로세스 문서에서 잠재적 계층적 구조를 자동으로 추론하기 위해.
• ON-LSTM를 통한 언어 모델링과 구조 학습의 통합이 복잡한 비즈니스 로직을 효과적으로 포착할 수 있는지 탐색하기 위해.
• RPA 프로젝트에서 수집한 실제 프로세스 기술서(PDD)를 대상으로 본 방법의 유효성을 검증하기 위해.
• 신경 시퀀스 모델링과 구조화된 메모리의 조합이 비즈니스 프로세스의 구조 발굴을 향상시킬 수 있음을 보여주기 위해.

제안 방법

• 이 방법은 순서화된 메모리 세포 유닛의 동적 순서를 학습함으로써 순차적 의존성을 더 잘 모델링할 수 있도록 설계된 순환 신경망의 변종인 Ordered Neurons LSTM(ON-LSTM)을 활용한다.
• ON-LSTM는 텍스트 기반 비즈니스 프로세스 문서에 대해 훈련되며, 의미 있는 구조적 패턴을 학습하도록 유도하기 위해 프로세스 수준의 언어 모델링 목표를 사용한다.
• 모델은 실제 로봇 프로세스 자동화(RPA) 프로젝트에서 수집한 프로세스 기술서(PDD)를 엔드 투 엔드로 훈련한다.
• 활동 간의 구조적 관계는 시퀀스 처리 중 ON-LSTM의 내부 메모리 동역학과 주의 패턴을 분석하여 추론한다.
• 이 방법은 언어적 구조의 계층적 성격을 활용하여 다수 수준의 비즈니스 프로세스 추상화를 복원한다.
• 실제 데이터를 대상으로 한 정성적 및 초보적 정량적 분석을 통해 모델이 잠재적 의미적 계층을 학습하고 표현하는 능력을 평가한다.

실험 결과

연구 질문

• RQ1 ON-LSTM는 텍스트 기반 비즈니스 프로세스 기술서의 잠재적 계층적 구조를 효과적으로 학습하고 표현할 수 있는가?
• RQ2 ON-LSTM에서 언어 모델링과 구조 학습을 통합함으로써 표준 RNN에 비해 구조적 관계 발굴 능력이 얼마나 향상되는가?
• RQ3 모델은 비정형 텍스트 기반의 비즈니스 기술서에서 다수 수준의 프로세스 추상화를 얼마나 잘 추론할 수 있는가?
• RQ4 ON-LSTM에서 순서화된 메모리 유닛을 사용함으로써 복잡한 비즈니스 로직을 프로세스 문서에서 더 잘 모델링할 수 있는가?
• RQ5 본 방법은 실제 RPA 프로세스 기술서에서 구조적 관계를 회복하는 데 얼마나 효과적인가?

주요 결과

• 제안된 ON-LSTM 기반 접근법은 단순한 활동 추출을 넘어서 비즈니스 프로세스 기술서의 잠재적 계층적 구조를 성공적으로 포착한다.
• 실제 RPA 프로세스 기술서(PDD)에 대한 초보적 실험 결과, 모델이 의미 있는 구조적 관계를 추론할 수 있음을 입증한다.
• 프로세스 수준의 언어 모델링과 ON-LSTM의 통합은 텍스트 문서 내 복잡한 비즈니스 로직을 더 잘 표현할 수 있도록 한다.
• 이 방법은 다수 수준의 프로세스 추상화를 자동으로 발굴할 잠재력을 보이며, 스케일러블한 BPM 자동화에 기여할 수 있음을 시사한다.
• 결과는 ON-LSTM의 구조화된 메모리 메커니즘이 비즈니스 프로세스 텍스트의 의미적 계층을 모델링하는 데 효과적이라는 것을 시사한다.
• 정성적 분석을 통해 유도된 프로세스 계층의 구조적 일관성 포착 능력을 고려할 때, 본 방법은 기준 모델보다 뛰어난 성능을 보였다.