[논문 리뷰] From BOP to BOSS and Beyond: Time Series Classification with Dictionary Based Classifiers

James Large, Anthony Bagnall외 2명|arXiv (Cornell University)|2018. 09. 18.

Time Series Analysis and Forecasting인용 수 8

한 줄 요약

이 논문은 BOP와 BOSS라는 두 가지 사전 기반 시계열 분류(TSC) 알고리즘 간의 성능 격차를 분석하기 위해 그 네 가지 핵심 차이점을 분해한다. 새로운 방법인 SP-HI를 제안하며, BOSS에 공간 피라미드와 히스토GRAM 교차를 결합하여 최신 기술 수준의 정확도를 달성한다—표준 BOSS 및 기준 성능을 뛰어넘고, 최고의 형태소 기반 방법들과 경쟁 수준에 이르렀다.

ABSTRACT

A family of algorithms for time series classification (TSC) involve running a sliding window across each series, discretising the window to form a word, forming a histogram of word counts over the dictionary, then constructing a classifier on the histograms. A recent evaluation of two of this type of algorithm, Bag of Patterns (BOP) and Bag of Symbolic Fourier Approximation Symbols (BOSS) found a significant difference in accuracy between these seemingly similar algorithms. We investigate this phenomenon by deconstructing the classifiers and measuring the relative importance of the four key components between BOP and BOSS. We find that whilst ensembling is a key component for both algorithms, the effect of the other components is mixed and more complex. We conclude that BOSS represents the state of the art for dictionary based TSC. Both BOP and BOSS can be classed as bag of words approaches. These are particularly popular in Computer Vision for tasks such as image classification. Converting approaches from vision requires careful engineering. We adapt three techniques used in Computer Vision for TSC: Scale Invariant Feature Transform; Spatial Pyramids; and Histrogram Intersection. We find that using Spatial Pyramids in conjunction with BOSS (SP) produces a significantly more accurate classifier. SP is significantly more accurate than standard benchmarks and the original BOSS algorithm. It is not significantly worse than the best shapelet based approach, and is only outperformed by HIVE-COTE, an ensemble that includes BOSS as a constituent module.

연구 동기 및 목표

• BOP와 BOSS가 백분위어 기반 TSC 방법로서 구조적으로 유사함에도 불구하고 BOSS가 BOP보다 뚜렷이 뛰어나게 성능을 내는 이유를 탐구하기 위해.
• BOP와 BOSS 간의 네 가지 핵심 알고리즘적 차이—앙상블, 푸리에 변환, 데이터 기반 이산화, 거리 측정 방식—를 고립하여 각각의 영향을 평가하기 위해.
• 컴퓨터 비전 기법—공간 피라미드, 히스토GRAM 교차, SIFT—을 적용하여 사전 기반 TSC의 성능을 향상시키기 위해.
• BOSS에 공간 피라미드와 히스토GRAM 교차를 통합한 새로운 분류기 SP-HI를 개발하고 평가하기 위해.
• 특히 반복 패턴을 포함한 긴 노이즈가 많은 시계열 데이터에서 사전 기반 분류기가 가장 효과적으로 작동하는 조건을 실증적으로 제시하기 위해.

제안 방법

• 앙성, 푸리에 변환, 데이터 기반 이산화, 거리 측정 방식이라는 네 가지 핵심 구성요소를 체계적으로 변화시켜 BOP와 BOSS를 분해한다.
• 시간 시리즈를 계층적 하위 창으로 나누어 각 수준에 대해 별도의 히스토GRAM을 생성함으로써 BOSS에 공간 피라미드를 적용한다.
• 노이즈 및 척도 변화에 대해 더 강건한 성능을 내기 위해 히스토GRAM 표현 간의 유사도 측정으로 히스토GRAM 교차(HI) 거리를 도입한다.
• BOSS에 공간 피라미드와 히스토GRAM 교차 거리를 통합하여 새로운 분류기 SP-HI를 구축한다.
• 10겹 교차 검증과 통계적 유의성 검정을 통해 128개의 시계열 데이터 세트로 구성된 벤치마크 세트에서 모든 변종을 평가한다.
• 다양한 파라미터 설정에 대한 앙상블을 통해 일반화 성능을 향상시키며, 각 기본 분류기는 추론을 위해 저장된다.

실험 결과

연구 질문

• RQ1 앙성, 푸리에 변환, 데이터 기반 이산화, 거리 측정 방식이 BOP와 BOSS 간 성능 격차에 기여하는 상대적 기여도는 무엇인가?
• RQ2 공간 피라미드와 히스토GRAM 교차와 같은 컴퓨터 비전 기법이 사전 기반 TSC의 성능 향상에 기여할 수 있는가?
• RQ3 BOSS에 공간 피라미드와 히스토GRAM 교차를 통합한 SP-HI 방법이 표준 BOSS 및 기타 기준 성능보다 유의미하게 높은 정확도를 달성하는가?
• RQ4 SP-HI 방법은 어떤 종류의 시계열 데이터에서 특히 유리한 성능을 보이며, 특히 노이즈나 복잡한 패턴이 존재할 경우 어떤가?
• RQ5 다양한 데이터셋에서 SP-HI의 성능은 ST-HESCA와 HIVE-COTE와 같은 최신 기술 수준의 TSC 방법들과 비교해 어떻게 되는가?

주요 결과

• BOP와 BOSS 양자 모두 다양한 파라미터 값에 대한 앙성 처리가 성능 향상에 기여하지만, 유일하게 앙성 처리만이 양 알고리즘 전반에 걸쳐 항상 유익한 것으로 나타났다.
• BOSS의 거리 측정 방식은 BOSS의 성능 향상에 핵심적인 역할을 하지만, BOP의 정확도를 떨어뜨리는 것으로 나타나 알고리즘 구성요소 간의 비선형적 상호작용을 입증한다.
• BOSS에 공간 피라미드와 히스토GRAM 교차를 통합한 SP-HI 방법은 표준 BOSS 및 모든 표준 기준 성능을 뛰어넘는 유의미한 높은 정확도를 달성한다.
• SP-HI는 ST-HESCA(최고의 형태소 기반 방법)만큼 유의미하게 열 劣하지 않으며, BOSS를 구성 요소로 포함하는 HIVE-COTE에 이르기까지 뿐만 아니라 그에 뒤지지 않는 성능을 보였다.
• 공간 피라미드 구성요소는 차별적 패턴이 혼란스러운 노이즈에 묻혀 있는 데이터셋에서 성능 향상을 보여, 복잡하고 긴 시계열에서의 유용성을 시사한다.
• SP-HI는 정확도 향상을 이룬다 할지라도, 피라미드 수준 전반에 걸쳐 여러 히스토GRAM 표현을 저장하는 데 따른 메모리 오버헤드로 인해 실용적 적용에 제약이 있을 수 있으며, 향후 최적화가 필요하다.