[논문 리뷰] Online Continual Learning for Anomaly Detection in IoT under Data Distribution Shifts

Matea Marinova, Shashi Raj Pandey외 4명|VBN Forskningsportal (Aalborg Universitet)|2026. 03. 08.

Domain Adaptation and Few-Shot Learning인용 수 0

한 줄 요약

OCLADS는 에지 보조 온라인 연속 학습을 활용하여 IoT에서 기기 내 이상 탐지를 가능하게 하는 프레임워크로, 지능형 샘플 선택과 분포 변화 탐지를 사용하여 이익이 있을 때만 모델을 업데이트합니다.

ABSTRACT

In this work, we present OCLADS, a novel communication framework with continual learning (CL) for Internet of Things (IoT) anomaly detection (AD) when operating in non-stationary environments. As the statistical properties of the observed data change with time, the on-device inference model becomes obsolete, which necessitates strategic model updating. OCLADS keeps track of data distribution shifts to timely update the on-device IoT AD model. To do so, OCLADS introduces two mechanisms during the interaction between the resource-constrained IoT device and an edge server (ES): i) an intelligent sample selection mechanism at the device for data transmission, and ii) a distribution-shift detection mechanism at the ES for model updating. Experimental results with TinyML demonstrate that our proposed framework achieves high inference accuracy while realizing a significantly smaller number of model updates compared to the baseline schemes.

연구 동기 및 목표

• IoT에서 비정상 데이터 분포로 인해 기기 내 모델이 구식이 되는 문제를 동기부여합니다.
• 데이터 분포 변화가 발생할 때에만 에지에서 TinyML 모델을 업데이트하는 협력 프레임워크를 개발합니다.
• 지능형 샘플 선택과 CL을 통해 통신 오버헤드를 최소화하면서 높은 추론 정확도를 유지합니다.
• 제안된 방법이 비정상 조건에서도 성능을 유지하면서 모델 업데이트를 줄이는 것을 입증합니다.

제안 방법

• IoT 디바이스에서 이상 점수 기반 임계값을 사용한 지능형 샘플 선택 메커니즘을 도입하여 정보가 풍부한 샘플(어려운 부정 예 포함)을 우선적으로 전송하도록 합니다.
• 에지 서버에서 수신 및 저장된 샘플을 사용하여 모델을 학습하고 업데이트하는 재생 기반 연속 학습 접근법을 활용합니다.
• 에지에서 동족성 시험 프레임워크(OCSVM 기반 점수 및 순열 검정이 포함된 L2-노름 기반 테스트 통계량)를 사용하여 연속 배치 간 분포 변화를 탐지합니다.
• 분포 변화가 탐지되었을 때만 에지-디바이스 간 모델 업데이트를 트리거하여 불필요한 통신을 줄입니다.
• 선택적 전송을 활성화하기 전에 일부 라운드에서 모든 데이터 전송이 포함된 초기 보정 단계를 사용합니다.
• 시뮬레이션된 공변량 시프트(오염) 하에서 CIFAR-10과 SVHN으로 MCUNet으로 평가하고 시간에 따른 온라인 매크로 F1-점수를 측정합니다.

실험 결과

연구 질문

• RQ1 IoT 디바이스가 에지에서 효과적인 온라인 연속 학습을 가능하게 하는 정보샘플을 선별적으로 전송할 수 있는가?
• RQ2 에지의 분포 변화 탐지 메커니즘이 비정상 조건에서 높은 이상 탐지 성능을 유지하도록 모델 업데이트를 효율적으로 트리거할 수 있는가?
• RQ3 이 온라인 CL 설정에서 통신 비용(모델 업데이트)과 on-device 추론 정확도 사이의 트레이드오프는 무엇인가?
• RQ4 OCLADS가 분포 변화 하에서 업데이트 빈도 및 탐지 성능 측면에서 기본 업데이트 정책과 어떻게 비교되는가?

주요 결과

• OCLADS는 CIFAR-10과 SVHN 전반에서 All-update 방식의 전체 업데이트 비율 아래 10% 미만으로 디바이스 측 모델 업데이트를 줄이는 동시에 높은 추론 성능을 유지합니다.
• CIFAR-10에서 54개, SVHN에서 73개 배치에서 시프트가 발생했고 각각 755개와 997개 배치 중에서 39개(CIFAR-10)와 51개(SVHN)가 탐지되었습니다.
• 프레임워크는 All-update와 유사한 온라인 매크로 F1-점수를 더 적은 업데이트로 달성하며, 탐지된 시프트 이후의 업데이트가 무작위 스케줄링보다 우수합니다.
• 오라클과 같은 시프트 탐지는 OCLADS가 거의 All-update 성능을 달성하는 데 약 7%의 배치에서만 업데이트를 수행하도록 허용할 것입니다.
• No-update가 최저의 성능을 보이고, Random-update는 시프트 이후 적시에 업데이트가 임의의 시점보다 더 유익하다는 것을 확인합니다.