[논문 리뷰] Nonadditive statistical measure of complexity and values of the entropic index q

Sumiyoshi Abe, P Landsberg외 2명|arXiv (Cornell University)|2004. 02. 07.

Statistical Mechanics and Entropy참고 문헌 2인용 수 6

한 줄 요약

이 논문은 히타리 엔트로피를 기반으로 한 비가산 통계 복잡도 측정법의 두 파라미터 가중치 가족을 제안하며, 이는 이전의 복잡도 측정법을 통합한다. 로지스틱 맵에서 혼돈의 경계에서 복잡도 측정법이 정확히 최댓값을 보일 수 있도록 최적의 엔트로피 지수 q* ≈ 1.4336을 규명하였으며, 이는 비가산 통계가 가산 대비 더 정확하게 임계 복잡도 전이를 기록할 수 있음을 보여준다.

ABSTRACT

A two-parameter family of statistical measures of complexity are introduced based on the Tsallis-type nonadditive entropies. This provides a unified framework for the study of the recently proposed various measures of complexity as well as for the discussion of a whole new class of measures. As a special case, a generalization of the measure proposed by Landsberg and his co-workers based on the Tsallis entropy indexed by q is discussed in detail and its behavior is illustrated using the logistic map. The value of the entropic index, q, with which the maximum of the measure of complexity is located at the edge of chaos, is calculated.

연구 동기 및 목표

• 비가산 엔트로피를 기반으로 하여 기존의 구성 복잡도 통계 측정법을 통합하는 단일 프레임워크를 제공하는 것.
• 변수 엔트로피 지수 q를 사용한 히타리 엔트로피를 활용해 랜즈버그 유형의 복잡도 측정법을 일반화하는 것.
• 역동적 시스템에서 혼돈의 경계에서 복잡도 측정법이 최댓값을 보일 수 있도록 최적의 q 값을 규명하는 것.
• 비가산 복잡도 측정법이 기존의 가산 측정법보다 임계 전이를 더 잘 기록할 수 있음을 보여주는 것.

제안 방법

• 등확률 상태(균형 상태)에서의 일반화된 쿨백-라이블러 발산 Kq[p||peq]와 히타리 엔트로피 Sq[p]의 곱으로 이루어진 두 파라미터 복잡도 측정법 Cq,q′[p]를 정의한다.
• q = q′인 단일 파라미터 사례로 특수화하여 Cq[q] = Sq[p] · Γq[p]를 도출하며, 여기서 Γq는 등확률에서의 q-일반화된 편차를 의미한다.
• 로지스틱 맵의 궤적을 길이 12의 이진 문자열로 변환하여 이산 상태 공간(크기 2^12)을 구성한다.
• 장기간 반복(10^6 단계)을 통해 경험적 확률 pi를 산출하여 Sq 및 Kq의 수치적 평가를 가능하게 한다.
• 수치적으로 q*를 결정하기 위해 ∆q = 1/2 조건을 활용하며, 여기서 ∆q = Sq[p]/Seq[q]는 정규화된 히타리 엔트로피이다.
• 다양한 q 값에서 Cq[q]의 행동을 분석하고 혼돈의 시작점(ac ≈ 1.401155)에서 최댓값을 찾는다.

실험 결과

연구 질문

• RQ1 로지스틱 맵에서 혼돈의 경계에서 비가산 복잡도 측정법이 최댓값을 보일 수 있도록 하는 엔트로피 지수 q의 값은 무엇인가?
• RQ2 제안된 두 파라미터 복잡도 측정법이 히타리 엔트로피 기반으로 이전에 제안된 측정법들을 어떻게 통합하는가?
• RQ3 비가산 통계역학이 가산 측정법보다 임계 전이에서 복잡도를 더 잘 기록할 수 있는가?
• RQ4 q가 최적화되었을 때 일반화된 복잡도 측정법 Cq[q]가 혼돈의 시작점에서 최댓값을 가지는가?
• RQ5 히타리 엔트로피와 쿨백-라이블러 발산 간의 정량적 관계는 무엇인가, 복잡도 기술에 어떻게 기여하는가?

주요 결과

• 혼돈의 경계에서 최대 복잡도를 보이는 최적의 엔트로피 지수는 q* ≈ 1.433601669이다.
• 복잡도 측정법 Cq[q]는 로지스틱 맵의 임계 매개변수 값 ac ≈ 1.401155189에서 정확히 최댓값을 도달한다.
• q* = 1.4336를 사용한 측정법 Cq[q]는 표준 q=1(Boltzmann-Shannon)의 경우보다 유의미하게 뛰어나며, 이 경우 혼돈의 경계에서 최댓값을 보이지 않는다.
• 일반화된 편차 측정법 Γq의 최댓값은 ∆q = Sq[p]/Seq[q] = 1/2일 때 발생하며, 이는 최적의 q*를 정의한다.
• 통합된 두 파라미터 가족 Cq,q′[p]는 이전에 제안된 모든 복잡도 측정법을 특수 케이스로 포함한다.
• 수치적 결과는 Cq[q]가 q* = 1.4336일 때 주기적 동역학에서 혼돈으로의 전이에서 날카운 피크를 보이며, 임계 복잡도에 대한 민감도가 향상됨을 확인한다.