[논문 리뷰] Time Matters: Time-Aware LSTMs for Predictive Business Process Monitoring

An Nguyen, Srijeet Chatterjee외 4명|arXiv (Cornell University)|2020. 10. 02.

Business Process Modeling and Analysis참고 문헌 18인용 수 6

한 줄 요약

이 논문은 예측 비즈니스 프로세스 모니터링을 향상시키기 위해 이벤트 간 경과 시간을 명시적으로 모델링하는 Time-Aware LSTMs(T-LSTM)를 제안한다. 이는 다음 활동 및 타임스탬프 예측을 모두 향상시킨다. LSTM 셀 상태에 시간 간격을 통합하고, 클래스 불균형을 다루기 위해 비용 감수성 학습을 적용함으로써, 벤치마크 이벤트 로그에서 기존의 Vanilla LSTM 기준선 대비 높은 정확도와 낮은 MAE를 달성한다.

ABSTRACT

Predictive business process monitoring (PBPM) aims to predict future process behavior during ongoing process executions based on event log data. Especially, techniques for the next activity and timestamp prediction can help to improve the performance of operational business processes. Recently, many PBPM solutions based on deep learning were proposed by researchers. Due to the sequential nature of event log data, a common choice is to apply recurrent neural networks with long short-term memory (LSTM) cells. We argue, that the elapsed time between events is informative. However, current PBPM techniques mainly use 'vanilla' LSTM cells and hand-crafted time-related control flow features. To better model the time dependencies between events, we propose a new PBPM technique based on time-aware LSTM (T-LSTM) cells. T-LSTM cells incorporate the elapsed time between consecutive events inherently to adjust the cell memory. Furthermore, we introduce cost-sensitive learning to account for the common class imbalance in event logs. Our experiments on publicly available benchmark event logs indicate the effectiveness of the introduced techniques.

연구 동기 및 목표

• 이벤트 간 경과 시간을 딥러닝 모델에 통합하여 예측 비즈니스 프로세스 모니터링(PBPM)을 향상시키는 것.
• 이벤트 로그에서 흔히 발생하는 클래스 불균형 문제로 인한 활동 예측 성능 저하를 해결하는 것.
• 기본 메모리 셀 업데이트에 시간 간격을 내재적으로 통합하는 시간 인식 LSTM 변종(T-LSTM)을 개발하는 것.
• T-LSTM 및 비용 감수성 학습의 효과를 실제 벤치마크 이벤트 로그에서 평가하는 것.
• 시간 인식 모델링이 다음 활동 및 다음 타임스탬프 예측의 예측 정확도를 향상시키는 데 기여하는지 확인하는 것.

제안 방법

• Baytas 등(2016)의 영향을 받아 연속적인 이벤트 간 경과 시간을 고려하여 셀 상태를 조정하는 수정된 LSTM 셀인 T-LSTM를 제안한다.
• 표준 LSTM 업데이트 식을 수정하여 시간에 의존하는 게이트 조절을 포함함으로써, 시간 간격에 따라 메모리가 업데이트되도록 한다.
• 이벤트 로그에서 발생하는 불균형한 클래스 분포 문제를 해결하기 위해 손실 함수에 비용 감수성 학습을 적용한다.
• 활동 특징에 대해 원핫 인코딩과 임베딩을 사용하며, 시간적 제어 흐름 특징은 이전 연구(Tax 등, 2018)와 동일하게 계산한다.
• 공유된 인코더 레이어를 사용하는 다중 작업 학습 설정을 통해 다음 활동과 다음 타임스탬프를 동시에 예측한다.
• TensorFlow 2.1을 사용하여 하이퍼파rameter 튜닝과 다수의 랜덤 초기화를 통해 안정성을 확보한다.

실험 결과

연구 질문

• RQ1 LSTM 셀에 이벤트 간 경과 시간을 통합함으로써 비즈니스 프로세스 모니터링의 예측 성능을 향상시킬 수 있는가?
• RQ2 제안된 T-LSTM 아키텍처가 다음 활동 및 타임스탬프 예측 작업에서 표준 Vanilla LSTM 모델보다 뛰어난 성능을 보일 수 있는가?
• RQ3 비용 감수성 학습이 이벤트 로그 데이터의 클래스 불균형으로 인한 성능 저하를 어느 정도 완화하는가?
• RQ4 T-LSTM와 비용 감수성 학습의 조합이 다양한 벤치마크 데이터셋에서 예측 정확도에 어떤 영향을 미치는가?
• RQ5 시간 인식 모델링의 이점이 활동 예측보다 타임스탬프 예측에서 더 두드러지는가?

주요 결과

• T-LSTM 접근법은 다음 활동 예측에서 Helpdesk 데이터셋에서 0.724의 최고 정확도를 기록했으며, BPI12W 데이터셋에서는 0.778을 기록하여 기준선 대비 각각 0.012와 0.018 높은 성능을 보였다.
• 다음 타임스탬프 예측에서는 Tax+CS+T-LSTM 접근법이 Helpdesk에서 MAE를 2.94일로 줄였고, BPI12W에서는 0.90일로 낮췄다. 이는 기준선(3.75일 및 1.56일)을 초월하는 일관된 향상이다.
• 비용 감수성 학습과 T-LSTM의 조합이 가장 우수한 결과를 도출하여, 두 기법이 최적 성능을 내기 위해 필수적임을 시사한다.
• T-LSTM의 효과는 활동 예측보다 타임스탬프 예측에서 더 두드러졌으며, 이는 시간 모델링이 특히 회귀 과제에서 유용함을 시사한다.
• Tax+CS+T-LSTM 접근법은 두 과제 및 두 데이터셋 모두에서 가장 우수한 종합 성능을 기록하여, 시간 인식 모델링과 클래스 불균형 처리의 상호보완성이 확인되었다.
• 결과는 도메인 특화된 특성(예: 시간 간격)을 신경망 레이어에 직접 통합하는 것이 PBPM에서의 예측 모델링을 크게 향상시킬 수 있음을 시사한다.