[논문 리뷰] Autonomous Fault Detection in Self-Healing Systems using Restricted Boltzmann Machines

Christopher Schneider, Adam Barker외 1명|arXiv (Cornell University)|2015. 01. 07.

Neural Networks and Reservoir Computing참고 문헌 24인용 수 7

한 줄 요약

이 논문은 역사적 시스템 데이터에서 특징 행동 시계열을 예측하기 위해 제한된 볼츠만 머신(Restricted Boltzmann Machines, RBMs)과 대비 분산 학습을 사용하여 자가 치유 시스템에서의 자율 고장 검출 기법을 제안한다. 예측된 상태와 실제 상태를 비교함으로써 인간 간섭 없이 고장의 근본 원인을 식별하며, 기존의 HMM 및 ANN 기반 방법보다 성능이 향상되어 평가에서 75%의 조화 평균 정확도를 달성하였다.

ABSTRACT

Autonomously detecting and recovering from faults is one approach for reducing the operational complexity and costs associated with managing computing environments. We present a novel methodology for autonomously generating investigation leads that help identify systems faults, and extends our previous work in this area by leveraging Restricted Boltzmann Machines (RBMs) and contrastive divergence learning to analyse changes in historical feature data. This allows us to heuristically identify the root cause of a fault, and demonstrate an improvement to the state of the art by showing feature data can be predicted heuristically beyond a single instance to include entire sequences of information.

연구 동기 및 목표

• 대규모 컴퓨팅 환경에서 운영 비용과 인간의 감시를 줄이기 위해 자율 고장 검출 및 근본 원인 식별을 가능하게 하기 위해.
• 자기 치유 시스템에서의 반응형이고 인간에 의존하는 복구 전략의 한계를 극복하기 위해 예측형 비지도 학습 접근법을 도입하기 위해.
• 기존의 HMM 및 ANN를 사용한 연구를 확장하여 RBM 기반 모델링을 통해 특징 시계열의 다단계 예측을 가능하게 하기 위해.
• 기존의 HMM 및 나이브 베이즈 방법과 비교하여 RBM 기반 고장 검출의 성능을 평가하여 고장 원인을 정확히 식별하는 데 목적이 있다.
• 시계열 예측과 특징 국소성 분석을 통해 반응형에서 능동형 고장 검출로의 전환 가능성을 탐색하기 위해.

제안 방법

• 이 방법은 역사적 시스템 구성 및 성능 데이터를 기반으로 대비 분산 학습을 통해 훈련된 제한된 볼츠만 머신(Restricted Boltzmann Machines, RBMs)을 사용한다.
• 특징 데이터는 WMI를 사용하여 주기적으로 시스템에서 수집되며 고유 식별자와 함께 저장되어 시간에 따른 변화를 추적한다.
• 적합도 함수는 RBM 모델에서 학습된 기대치를 바탕으로 특징 상태를 유효 또는 비유효로 분류하기 위해 적용된다.
• 시스템은 RBM에서 예측한 특징 상태와 실제 관측된 상태를 비교하여 이질성을 탐지하고 고장 진단을 위한 단서를 생성한다.
• 고장 진단 프레임워크(ADF)는 예측값과 실제값 간의 격차를 이용해 잠재적 근본 원인을 가능성의 순서로 정렬한다.
• 이 방법은 사전에 레이블이 부여된 고장 데이터나 전문가가 정의한 규칙가 필요 없이도 정상 행동의 내부 모델을 구축하기 위해 비지도 학습을 활용한다.

실험 결과

연구 질문

• RQ1 대비 분산 학습을 통해 훈련된 RBM이 고장 자율 검출을 위해 시스템 특징 행동 시계열을 효과적으로 예측할 수 있는가?
• RQ2 HMM 및 ANN를 사용한 기존 방법과 비교해 RBM 기반 고장 검출 방법의 성능은 어떻게 다른가? 특히 고장 근본 원인 식별 능력에서.
• RQ3 이 시스템은 단일 인스턴스를 초월해 미래의 특징 상태를 얼마나 잘 예측할 수 있는가? 이는 능동형 고장 검출을 가능하게 하는가?
• RQ4 특징 국소성 분석의 통합이 분산 또는 복잡한 시스템에서 고장 진단의 정확도와 신뢰성 향상에 기여하는가?
• RQ5 이 방법은 고장 검출 및 복구 과정에서 인간의 감시를 최소화함으로써 대규모 IT 환경에서 운영 비용을 줄일 수 있는가?

주요 결과

• RBM 기반 접근법은 다양한 평가 지표에서 조화 평균 정확도 75%를 달성하여 HMM 및 나이브 베이즈 방법보다 고장 진단 정확도에서 뛰어난 성능을 보였다.
• 충분한 훈련 데이터가 확보된 경우, 시스템은 테스트 케이스의 75%에서 정확한 근본 원인(네트워크 어댑터 스루풋 변화)을 식별했다.
• 구성 샘플 수가 적을 경우 정확도는 14%로 떨어졌으며, 이는 데이터 희소성에 민감하고 충분한 훈련 데이터가 필요함을 시사한다.
• 이 방법은 특징 행동의 전체 시계열을 예측할 수 있는 능력을 보이며, 반응형에서 능동형 고장 검출로의 전환을 가능하게 하였다.
• 적합도 함수의 사용으로 시스템은 사전에 제작된 모델이나 인간의 입력 없이도 정상 행동에 대한 기대치를 자율적으로 구축할 수 있었다.
• 결과는 RBM 기반 예측이 고장 국소화를 위한 자가 적응형 프리미티브를 지원할 수 있으며, 향후 특징 국소성 탐지 기법과의 통합도 가능할 수 있음을 시사한다.