[논문 리뷰] Lossless Compression and Complexity of Chaotic Sequences

Nithin Nagaraj, Mathew Shaji Kavalekalam외 2명|arXiv (Cornell University)|2011. 01. 23.

Evolutionary Algorithms and Applications참고 문헌 2인용 수 4

한 줄 요약

이 논문은 로지스틱 및 스케w-텐트 맵에서 유도된 혼돈적 시간 시리즈에 대해 비순차적 재귀 쌍 치환(NSRPS)이 상수로 단순화되는 데 필요한 반복 횟수를 기반으로 한 새로운 복잡도 측정법을 제안한다. 이 방법은 50개 샘플 길이에서도 리아풀로프 지수와 높은 상관관계(r > 0.88)를 보이며, 샤논 엔트로피 추정보다 뛰어나며, 기존의 WinZip나 7-Zip와 같은 표준 알고리즘으로는 압축이 불가능한 혼돈적 시리즈도 NSRPS로는 압축 가능하다는 것을 입증한다.

ABSTRACT

We investigate the complexity of short symbolic sequences of chaotic dynamical systems by using lossless compression algorithms. In particular, we study Non-Sequential Recursive Pair Substitution (NSRPS), a lossless compression algorithm first proposed by W. Ebeling et al. [Math. Biosc. 52, 1980] and Jiménez-Montaño et al. [arXiv:cond-mat/0204134, 2002]) which was subsequently shown to be optimal. NSPRS has also been used to estimate Entropy of written English (P. Grassberger [arXiv:physics/0207023, 2002]). We propose a new measure of complexity - defined as the number of iterations of NSRPS required to transform the input sequence into a constant sequence. We test this measure on symbolic sequences of the Logistic map for various values of the bifurcation parameter. The proposed measure of complexity is easy to compute and is observed to be highly correlated with the Lyapunov exponent of the original non-linear time series, even for very short symbolic sequences (as short as 50 samples). Finally, we construct symbolic sequences from the Skew-Tent map which are incompressible by popular compression algorithms like WinZip, WinRAR and 7-Zip, but compressible by NSRPS.

연구 동기 및 목표

• 혼돈 동역계에서 유도된 짧은 기호적 시리즈를 위한 강건하고 계산이 단순한 복잡도 측정법을 개발하는 것.
• 노이즈와 유한 길이로 인해 비i.i.d.인 짧은 시간 시리즈에서 샤논 엔트로피 추정의 한계를 해결하는 것.
• 손실 없는 압축을 통해 NSRPS가 전통적인 엔트로피 측정법이 실패하는 동역학적 복잡도를 포착할 수 있는지 평가하는 것.
• 일부 혼돈적 시리즈는 표준 압축 알고리즘으로는 압축이 불가능하지만 NSRPS로는 압축이 가능하다는 것을 보여주는 것.

제안 방법

• 제안된 복잡도 측정법은 기호적 시리즈를 단일 상수 기호로 단순화하는 데 필요한 반복 횟수(N)로 정의된다.
• NSRPS는 반복적으로 적용되며, 인접한 기호 쌍이 빈도와 재현성에 기반한 새로운 기호로 대체되며, 비순차적 쌍 선택을 통해 편향을 방지한다.
• 이 방법은 로지스틱 맵과 스케w-텐트 맵에서 유도된 혼돈적 시간 시리즈의 기호 표현을 사용하며, 실수값 시리즈에 대해 구간 분할(binning)을 적용한다.
• 리아풀로프 지수는 맵의 로지스틱 함수의 도함수를 포함하는 표준 공식을 사용해 수치적으로 계산된다.
• 압축 성능은 표준 도구(WinZip, WinRAR, 7-Zip)를 사용해 평가되며, NSRPS로 압축한 크기와 비교된다.
• 다양한 분기 매개변수와 시리즈 길이에서 N과 리아풀로프 지수 사이의 상관관계가 정량화된다.

실험 결과

연구 질문

• RQ1 NSRPS 반복 횟수는 혼돈 시스템의 짧은 기호적 시리즈에 대해 신뢰성 있고 계산이 간편한 복잡도 측정법으로서 유용한가?
• RQ2 로지스틱 맵의 다양한 분기 매개변수에서 제안된 NSRPS 기반 복잡도 측정법은 리아풀로프 지수와 어떻게 상관관계를 가지는가?
• RQ3 표준 손실 없는 압축 알고리즘으로는 압축이 불가능한데 NSRPS로는 압축이 가능한 혼돈적 시리즈가 존재하는가?
• RQ4 제한된 데이터를 가진 짧은 시리즈에서 새로운 복잡도 측정법은 샤논 엔트로피 추정보다 어떻게 성능이 뛰어나게 되는가?
• RQ5 시간 시리즈에 노이즈가 첨가된 경우에도 새로운 측정법은 여전히 강건한가?

주요 결과

• NSRPS 반복 횟수(N)를 기반으로 한 제안된 복잡도 측정법은 50개 샘플 길이에서도 리아풀로프 지수와 높은 상관관계(r = 0.8870)를 보인다.
• 2개의 구간과 L=50일 때, N과 λ 사이의 상관계수는 0.6651에 도달하며, 이는 L=5000일 때 샤논 엔트로피 추정의 상관계수 0.3565보다 유의미하게 뛰어나다.
• NSRPS는 1024개 샘플을 가진 스케w-텐트 맵(a=0.65)의 기호적 시리즈를 912비트로 압축하는데 성공했으며, WinZip, WinRAR, 7-Zip는 모두 데이터를 늘렸다(1376–1816비트).
• 기호적 시리즈가 균일 분포일 경우(예: 균일 불변 측도를 가진 스케w-텐트 맵)에도 이 측정법이 효과를 발휘하며, 기호 빈도를 초월한 구조적 민감도를 보임을 시사한다.
• 이 방법은 짧은 데이터 길이에서도 효과적이며, 더 긴 시리즈로의 전환에 비해 상관관계 향상 폭이 미미하여, 실생활 생물학적 또는 실험적 시간 시리즈에 적합함을 시사한다.
• 결과는 NSRPS가 Lempel-Ziv 기반 알고리즘이 간과하는 혼돈적 시리즈의 구조적 패턴을 감지할 수 있음을 나타내며, 엔트로피가 최대일 때조차도 성립한다.