[논문 리뷰] On the analysis of signals in a permutation Lempel-Ziv complexity - permutation Shannon entropy plane

Diego M. Mateos, Steeve Zozor외 1명|arXiv (Cornell University)|2017. 07. 17.

Chaos control and synchronization참고 문헌 56인용 수 3

한 줄 요약

이 논문은 순열 Lempel–Ziv 복잡도와 순열 샤논 엔트로피의 평면을 도입하여 시간 시리즈를 분석한다. 이는 결정론적(복잡도)과 통계적(엔트로피) 관점의 융합을 통해 이루어지며, 혼돈론적 신호와 확률적 과정을 효과적으로 구분한다. 스펙트럼이 동일한 경우에도 고전적 브라운 운동(FBM), 분수 차수의 고전적 브라운 운동(FGN), K-노이즈와 같은 가우시안 및 비가우시안 노이즈를 구분할 수 있으며, Bandt와 Pompe의 순열 접근법을 통해 연속 상태 신호에서 복잡한 역학을 특성화하는 데 있어 뛰어난 안정성을 입증한다.

ABSTRACT

The aim of this paper is to introduce the Lempel-Ziv permutation complexity vs permutation entropy plane as a tool to analyze time series of different nature. This two quantities make use of the Bandt and Pompe representation to quantify continuous-state time series. The strength of this plane is to combine two different perspectives to analyze a signal, one being statistic (the permutation entropy) and the other being deterministic (the Lempel-Ziv complexity). This representation is applied (i) to characterize non-linear chaotic maps, (ii) to distinguish deterministic from stochastic processes and (iii) to analyze and differentiate fractional Brownian motion from fractional Gaussian noise and K-noise given a same (averaged) spectrum. The results allow to conclude that this plane is "robust" to distinguish chaotic signals from random signals, as well as to discriminate between different Gaussian and nonGaussian noises.

연구 동기 및 목표

• 알고리즘적 복잡도와 통계적 엔트로피를 융합하여 복잡한 시간 시리즈를 분석할 수 있는 통합 프레임워크를 개발하기 위해.
• 연속 상태 시간 시리즈에서 혼돈론적 역학과 확률적 과정을 구분하는 데 도전하는 문제를 해결하기 위해.
• 스펙트럼이 유사하지만 상관관계 구조가 다른 노이즈 유형—특히 FBM, FGN, K-노이즈—간의 구분을 향상시키기 위해.
• 스펙트럼 분석을 초월하여 미세한 역학적 특징을 포착하는 데 있어 순열 기반 복잡도-엔트로피 평면의 안정성을 평가하기 위해.
• 기존의 정보 이론적 및 결정론적 방법들과 보완적으로 작용할 수 있는 시간 시리즈 특성화 도구를 제공하기 위해.

제안 방법

• Bandt와 Pompe의 기호 역학 접근법을 사용하여 연속 상태 시간 시리즈를 순열 벡터로 양자화하며, 임베딩 지연 τ와 임베딩 차수 d를 사용한다.
• 시간 시리즈에서 유도된 순열 패턴의 경험적 샤논 엔트로피로 순열 샤논 엔트로피를 계산한다.
• 시간 시리즈의 순열 기호 시퀀스에 Lempel–Ziv 복잡도를 적용하여 기호 시퀀스의 알고리즘적 복잡도를 정량화한다.
• 순열 Lempel–Ziv 복잡도를 x축, 순열 샤논 엔트로피를 y축으로 하여 이원수 복잡도-엔트로피 평면을 구성한다.
• 이 평면을 사용하여 다양한 매개변수에서 혼돈론적 맵, K-노이즈, 분수 차수의 브라운 운동(FBM), 분수 차수의 고전적 브라운 노이즈(FGN)를 분석하고 비교한다.
• 일致성을 확보하기 위해 임베딩 매개변수를 d=5와 τ=1로 고정하고, 다른 d와 τ 값(예: d=4,6)에서도 결과를 검증한다.

실험 결과

연구 질문

• RQ1 순열 Lempel–Ziv 복잡도 대 순열 샤논 엔트로피 평면은 혼돈론적 시간 시리즈와 확률적 과정을 효과적으로 구분할 수 있는가?
• RQ2 이 평면은 스펙트럼이 동일한 가우시안 및 비가우시안 노이즈 과정—예를 들어 FBM, FGN, K-노이즈—를 얼마나 잘 구분할 수 있는가?
• RQ3 순열 복잡도는 표준 엔트로피 측정치가 간과하는 짧은 범위의 상관관계 특성을 포착할 수 있는가?
• RQ4 이 평면은 시간 시리즈의 지속성, 반지속성 또는 결정론적 구조와 같은 역학적 특성을 어느 정도 드러내는가?
• RQ5 이 방법은 스펙트럼 분석이나 엔트로피 또는 복잡도 단독 측정치보다 더 정보가 풍부한 특성화를 제공할 수 있는가?

주요 결과

• 복잡도-엔트로피 평면은 혼돈론적 맵과 확률적 과정을 명확히 분리하며, 혼돈론적 신호는 그 역학적 성격에 따라 고유한 영역에 집중된다.
• K-노이즈 시퀀스는 평면에서 직선 패턴을 형성하며, 상관 수준에 관계없이 복잡도와 엔트로피 간의 일관된 관계를 나타낸다.
• FBM와 K-노이즈는 중간에서 높은 복잡도와 엔트로피 영역을 차지하지만, FGN은 높은 엔트로피, 낮은 복잡도 영역에 집중되어 있어 스펙트럼 특성이 동일함에도 불구하고 명확한 구분이 가능하다.
• 순열 Lempel–Ziv 복잡도는 FGN에서 지속성(H > 0.5)과 반지속성(H < 0.5) 상관관계의 차이를 포착하지만, 순열 엔트로피만으로는 이를 구분할 수 없다.
• 스펙트럼이 동일한 경우에도 FGN의 min(H, 1−H) 증가에 따라 FBM 및 K-노이즈와의 구분이 성공적으로 이루어지며, 이는 스펙트럼 외부의 상관관계 구조에 대한 민감성을 입증한다.
• d=4,5,6 및 τ=1에서의 다양한 임베딩 매개변수에 대해 결과가 안정적이며, 이는 방법의 분류 성능이 안정적임을 확인한다.