[논문 리뷰] Anomaly Detection through Transfer Learning in Agriculture and Manufacturing IoT Systems

Mustafa Abdallah, Wo Jae Lee외 4명|arXiv (Cornell University)|2021. 02. 11.

Anomaly Detection Techniques and Applications참고 문헌 44인용 수 14

한 줄 요약

이 논문은 디지털 농업 및 스마트 제조 환경에서 IoT 시스템을 위한 전이 학습 기반 이상 탐지 프레임워크를 제안한다. 고속 센서 데이터(예: 편광 전기 센서)를 활용하여 저속 센서(예: MEMS)의 탐지 성능을 향상시키며, 전이 학습이 특히 고장 직전 상태에서 분류 정확도를 크게 향상시킴을 입증한다. LSTM는 더 긴 학습 시간이 걸리지만 ARIMA보다 이상 예측에서 뛰어난 성능을 보인다.

ABSTRACT

IoT systems have been facing increasingly sophisticated technical problems due to the growing complexity of these systems and their fast deployment practices. Consequently, IoT managers have to judiciously detect failures (anomalies) in order to reduce their cyber risk and operational cost. While there is a rich literature on anomaly detection in many IoT-based systems, there is no existing work that documents the use of ML models for anomaly detection in digital agriculture and in smart manufacturing systems. These two application domains pose certain salient technical challenges. In agriculture the data is often sparse, due to the vast areas of farms and the requirement to keep the cost of monitoring low. Second, in both domains, there are multiple types of sensors with varying capabilities and costs. The sensor data characteristics change with the operating point of the environment or machines, such as, the RPM of the motor. The inferencing and the anomaly detection processes therefore have to be calibrated for the operating point. In this paper, we analyze data from sensors deployed in an agricultural farm with data from seven different kinds of sensors, and from an advanced manufacturing testbed with vibration sensors. We evaluate the performance of ARIMA and LSTM models for predicting the time series of sensor data. Then, considering the sparse data from one kind of sensor, we perform transfer learning from a high data rate sensor. We then perform anomaly detection using the predicted sensor data. Taken together, we show how in these two application domains, predictive failure classification can be achieved, thus paving the way for predictive maintenance.

연구 동기 및 목표

• 디지털 농업에서 희소한 센서 데이터와 스마트 제조에서 변동하는 센서 특성의 과제를 해결한다.
• 고속 데이터율 센서의 대체로 저샘플링 레이트 센서의 이상 탐지 성능을 향상시키기 위해 전이 학습 접근법을 개발한다.
• 실제 IoT 시스템에서 시간 시리즈 예측 및 이상 탐지에 대해 LSTM와 ARIMA 모델을 평가하고 비교한다.
• 특히 고장 직전 상태에서의 고장 분류 정확도를 향상시키기 위해 전이 학습과 데이터 증강 기법을 활용한다.
• 산업 시스템에서 작동 조건의 변화(예: 모터 RPM)를 고려하여 이상 탐지 모델을 校정함으로써 예측 유지보수를 가능하게 한다.

제안 방법

• 농업 및 제조 IoT 구현에서의 센서 시간 시리즈 데이터를 예측하기 위해 LSTM 및 준감독형 ARIMA 모델을 활용한다.
• 고속 편광 전기 센서 데이터에서 깊이 신경망을 훈련하고, 저속 MEMS 센서 데이터에서 미세 조정함으로써 전이 학습을 적용한다.
• 제조 테스트베드에서 다양한 작동 조건(예: 300–380 RPM)에 맞춰 이상 탐지 모델을 校정하여 센서 특성의 변화를 반영한다.
• 희귀 또는 고장 직전 상태에서의 모델 일반화 능력을 향상시키기 위해 데이터 증강 기법을 구현한다.
• 한 RPM에서 훈련된 이진 분류 모델을 다른 RPM에서 이상 탐지에 적용하여 작동 조건 간 성능을 평가한다.
• 다양한 RPM과 결함 유형에서 정확도 지표를 사용해 모델 성능을 평가하며, 혼동 행렬 및 평균 정확도 보고를 포함한다.

실험 결과

연구 질문

• RQ1 고속 데이터율 센서 데이터를 활용함으로써 전이 학습이 저샘플링 레이트 센서의 이상 탐지 성능을 향상시킬 수 있는가?
• RQ2 LSTM와 ARIMA 모델은 농업 및 제조 IoT 시스템에서 센서 시간 시리즈 예측 및 이상 탐지에 있어 어떻게 비교되는가?
• RQ3 특히 고장 직전 상태에서 전이 학습이 고장 분류 정확도를 얼마나 향상시키는가?
• RQ4 스마트 제조 시스템에서 다양한 작동 조건(예: RPM) 간 모델 성능은 어떻게 변화하는가?
• RQ5 데이터 증강 기법은 희귀 또는 기민한 고장 모드의 센서 데이터 탐지에 향상 효과를 줄 수 있는가?

주요 결과

• 고속 편광 전기 센서 데이터를 활용하여 전이 학습이 저속 MEMS 센서의 분류 정확도를 크게 향상시키며, 특히 고장 직전 상태에서 가장 두드러진 성과를 기록한다.
• 한 RPM에서 훈련된 이진 분류 모델이 다른 RPM에서 테스트한 평균 정확도는 RPM-320에서 88.82%, RPM-340에서 95.12%, RPM-360에서 95.46%, RPM-380에서 89.07%를 기록하여 뛰어난 작동 조건 간 일반화 성능을 입증한다.
• LSTM는 더 긴 학습 시간이 걸리지만 ARIMA보다 이상 탐지에서 높은 예측 정확도를 달성한다.
• 데이터 증강은 예측 성능을 향상시켰으며, 고장 직전 모드에서의 향상 폭이 더 크게 나타나 희귀 사건 탐지에 있어 그 가치를 입증한다.
• 전이 학습 모델은 동일한 RPM에서 테스트할 경우 100%의 정확도를 기록하여 도메인 내 성능이 매우 우수함을 보였다.
• 연구는 작동 조건에 따른 校정이 필수적임을 확인하였으며, RPM에 따라 센서 데이터 특성이 크게 변화하므로 모델을 재학습하거나 적응시켜야 함을 시사한다.