[논문 리뷰] Classification under Streaming Emerging New Classes: A Solution using Completely Random Trees

Xin Mu, Kai Ming Ting외 1명|arXiv (Cornell University)|2016. 05. 30.

Data Stream Mining Techniques참고 문헌 19인용 수 14

한 줄 요약

이 논문은 스트리밍 환경에서의 새로운 클래스가 지속적으로 발생하는 문제(SENC 문제)를 해결하기 위해 완전 무작위 트리(Completely Random Trees)를 활용한 비지도 이상 탐지 중심의 접근법인 SENCForest를 제안한다. 새로운 클래스 탐지 문제를 이상 탐지 문제로 간주함으로써, 특히 새로운 클래스 탐지 및 초기 학습 데이터 재사용 없이 효율적인 모델 업데이트가 가능한 점에서, 분류 중심 기반 기준보다 뛰어난 성능을 달성한다.

ABSTRACT

This paper investigates an important problem in stream mining, i.e., classification under streaming emerging new classes or SENC. The common approach is to treat it as a classification problem and solve it using either a supervised learner or a semi-supervised learner. We propose an alternative approach by using unsupervised learning as the basis to solve this problem. The SENC problem can be decomposed into three sub problems: detecting emerging new classes, classifying for known classes, and updating models to enable classification of instances of the new class and detection of more emerging new classes. The proposed method employs completely random trees which have been shown to work well in unsupervised learning and supervised learning independently in the literature. This is the first time, as far as we know, that completely random trees are used as a single common core to solve all three sub problems: unsupervised learning, supervised learning and model update in data streams. We show that the proposed unsupervised-learning-focused method often achieves significantly better outcomes than existing classification-focused methods.

연구 동기 및 목표

• 시간이 지남에 따라 새로운 클래스가 지속적으로 발생하는 데이터 스트림 환경에서 높은 분류 정확도를 유지하는 데 도전한다.
• 기존의 분류 중심 접근법이 새로운 클래스를 조기에 정확하게 탐지하는 데 어려움을 겪는 한계를 극복한다.
• 비지도 이상 탐지, 분류, 모델 업데이트를 하나의 핵심 기반(완전 무작위 트리)으로 통합하는 통합 프레임워크를 개발한다.
• 기존 학습 데이터셋이 없이 메모리 제약 조건 하에서도 효율적인 모델 업데이트를 가능하게 한다.
• 기존 클래스에 대한 강력한 분류 성능를 유지하면서도 새로운 클래스에 대한 높은 탐지 정확도를 달성한다.

제안 방법

• 비지도 이상 탐지, 지도 학습 분류, 모델 업데이트에 모두 동일한 핵심 기반으로 완전 무작위 트리를 사용한다.
• 기존 클래스에 대해 이상치로 간주되는 인스턴스를 식별함으로써, 새로운 클래스 탐지를 위해 트리의 비지도 이상 탐지 기능을 활용한다.
• 인스턴스를 필터링: 만약 인스턴스가 기존 클래스의 이상치가 아니라면 분류기로 전달하고, 그렇지 않으면 새로운 클래스 후보로 간주한다.
• 감지된 새로운 클래스 후보를 버퍼에 저장하고, 버퍼가 꽉 찰 경우에만 분류기와 탐지기의 업데이트를 수행한다.
• 기존의 트리 앙상블를 수정하는 방식으로 모델 업데이트를 수행함으로써, 초기 학습 데이터셋에서 재학습할 필요 없이 스트리밍 환경에서 신속한 적응이 가능하다.
• 완전 무작위 트리의 내재된 구조를 활용하여, 기존 클래스의 이상치와 진정으로 새로운 클래스를 구분한다.

실험 결과

연구 질문

• RQ1 비지도 이상 탐지 중심 접근법이 기존의 분류 중심 기반 방법보다 데이터 스트림에서 새로운 클래스를 탐지하는 데 더 뛰어난 성능을 보일 수 있는가?
• RQ2 단일 모델 코어(완전 무작위 트리)가 SENC 환경에서 비지도 이상 탐지기와 지도 학습 분류기로 동시에 효과적으로 기능할 수 있는가?
• RQ3 배포 시 진정한 클래스 레이블이 제공되지 않을 경우, 제안된 방법의 탐지 정확도 및 분류 성능는 어떻게 되는가?
• RQ4 초기 학습 데이터셋에서 재학습하지 않고도 얼마나 효율적으로 모델 업데이트를 수행할 수 있는가?
• RQ5 메모리 제약 조건 하에서 다수의 새로운 클래스가 지속적으로 발생하는 장기 스트림 환경에서 이 방법의 확장성은 어느 정도인가?

주요 결과

• SENCForest는 배포 중 진짜 클래스 레이블을 받지 못함에도 불구하고, 기존의 여덟 가지 방법보다 분류 정확도와 새로운 클래스 탐지 성능에서 뛰어난 성능을 보였다.
• 분류 중심 접근법에 비해 새로운 클래스에 대한 탐지 정확도가 크게 향상되었으며, 이러한 방법들은 종종 새로운 클래스를 조기에 탐지하지 못하는 경향이 있다.
• 다수의 새로운 클래스가 지속적으로 발생하는 장기 스트림 환경에서도 SENCForest는 높은 성능를 유지했으며, 주기적으로 두 개의 새로운 클래스가 발생하는 경우에도 유사한 성능를 보였다.
• 모델 업데이트가 효율적이며, 초깃학습 데이터셋에서 재학습할 필요 없이 메모리 제약 조건 하에서도 확장성이 뛰어나다.
• 완전 무작위 트리를 통합 핵심으로 사용함으로써 빠른 분류 및 모델 조정이 가능해져 실시간 데이터 스트림 처리에 적합한 방법이 되었다.
• 실험 결과, 새로운 클래스가 기존 클래스와 명확하게 분리되어 있지 않은 경우에도 트리의 강력한 이상 탐지 능력 덕분에 SENCForest는 뛰어난 강인성을 보였다.