[논문 리뷰] A comprehensive classification of complex statistical systems and an ab-initio derivation of their entropy and distribution functions

Rudolf Hanel, Stefan Thurner|arXiv (Cornell University)|2010. 05. 02.

Statistical Mechanics and Entropy참고 문헌 11인용 수 11

한 줄 요약

이 논문은 4번째 히친 공리의 위반을 유지하면서도 첫 번째부터 세 번째까지는 유지하는 바탕으로 두 scaling 지수 (c,d)를 기반으로 복잡한 통계계를 통합적으로 분류한다. 이는 일반화된 엔트로피 $ S_{c,d} \propto \sum_{i} \Gamma(1+d, 1 - c\ln p_i) $ 를 도출하며, 이는 볼츠만-지브스, 스트레칭된 지수, 티슬스 엔트로피를 특수한 경우로 포함한다. 이에 대응하는 분포 함수는 라멘트-W 함수를 통해 표현되며, 복잡한 시스템에서 일반화된 엔트로피의 근본적 기초를 제공한다.

ABSTRACT

To characterize strongly interacting statistical systems within a thermodynamical framework - complex systems in particular - it might be necessary to introduce generalized entropies, $S_g$. A series of such entropies have been proposed in the past, mainly to accommodate important empirical distribution functions to a maximum ignorance principle. Until now the understanding of the fundamental origin of these entropies and its deeper relations to complex systems is limited. Here we explore this questions from first principles. We start by observing that the 4th Khinchin axiom (separability axiom) is violated by strongly interacting systems in general and ask about the consequences of violating the 4th axiom while assuming the first three Khinchin axioms (K1-K3) to hold and $S_g=\sum_ig(p_i)$. We prove by simple scaling arguments that under these requirements {\em each} statistical system is uniquely characterized by a distinct pair of scaling exponents $(c,d)$ in the large size limit. The exponents define equivalence classes for all interacting and non interacting systems. This allows to derive a unique entropy, $S_{c,d}\propto \sum_i Γ(d+1, 1- c \ln p_i)$, which covers all entropies which respect K1-K3 and can be written as $S_g=\sum_ig(p_i)$. Known entropies can now be classified within these equivalence classes. The corresponding distribution functions are special forms of Lambert-$W$ exponentials containing as special cases Boltzmann, stretched exponential and Tsallis distributions (power-laws) -- all widely abundant in nature. This is, to our knowledge, the first {\em ab initio} justification for the existence of generalized entropies. Even though here we assume $S_g=\sum_ig(p_i)$, we show that more general entropic forms can be classified along the same lines.

연구 동기 및 목표

• 시스템 크기 변화에 따른 점점 큰 행동에 기반해 복잡한 통계계를 분류하기 위한 일반적 프레임워크를 수립하기 위해.
• 현재 통합된 이론적 기초가 부족한 복잡한 시스템에서 사용되는 일반화된 엔트로피의 근본적 기원을 규명하기 위해.
• 첫 번째부터 세 번째 히친 공리(연속성, 볼록성, g(0)=0)를 만족하면서 네 번째 공리(분리 가능성)를 위반하는 고유한 엔트로피 함수형 $ S_{c,d} $ 를 도출하기 위해.
• 모든 시스템이 (c,d) 쌍으로 정의된 동치 클래스에 속하며, 크기 증가 시에 동일한 열역학적 행동을 보임을 보여주기 위해.
• 모든 이러한 시스템의 분포 함수가 라멘트-W 지수의 특수한 경우임을 보여주어 천연계에서의 거듭제곱 법칙 및 스트레칭된 지수 분포의 광범위한 존재를 설명하기 위해.

제안 방법

• 저자들은 첫 번째부터 세 번째 히친 공리(연속성, 볼록성, g(0)=0)와 형태 $ S_g = \sum_i g(p_i) $ 를 가정하면서 네 번째 공리(분리 가능성)를 위반하는 바탕으로, 시스템 크기 증가에 따른 엔트로피의 점점 큰 행동을 분석한다.
• 그들은 대규모 W(상태 수) 근처에서 모든 시스템이 두 scaling 지수 (c,d)로 유일하게 특징지워짐을 도출한다.
• 스케일링 추론을 통해 엔트로피는 $ S_{c,d} \propto \sum_i \Gamma(1+d, 1 - c\ln p_i) $ 의 형태를 가져야 하며, 이는 상부 비완전 감마 함수가 일반화된 행동을 캡슐화함을 보여준다.
• 분포 함수는 이러한 엔트로피 형태에서 최대 엔트로피 문제의 해로서 유도되며, 라멘트-W 함수를 포함하는 표현식을 얻는다.
• 이 프레임워크는 레쉬에 안정성 — 핵심 물리적 일관성 조건 — 이 모든 이러한 엔트로피에 대해 자동으로 만족됨을 보여주기 위해 확장된다.
• 이 접근은 레니 지수형 엔트로피로 일반화되며, 다만 $ G(\sum g(p_i)) $ 의 함수형태로 인해 기술적 복잡성이 증가한다.

실험 결과

연구 질문

• RQ1 강한 상호작용을 보이는 시스템에서 4번째 히친 공리가 위반됨에 따라 볼츠만-지브스 프레임워크를 넘어서 복잡한 통계계를 분류하는 데 기초가 되는 기본 원리는 무엇인가?
• RQ2 분리 가능성 공리를 완화했을 때, 첫 번째부터 세 번째 히친 공리를 바탕으로 고유한 일반화된 엔트로피를 원천에서 유도할 수 있는가?
• RQ3 이러한 일반화된 프레임워크에서 유도되는 엔트로피의 함수형과 대응하는 분포 함수의 형태는 무엇인가?
• RQ4 왜 거듭제곱 법칙과 스트레칭된 지수 분포가 복잡한 시스템에서 흔히 나타나며, 그 보편성의 근본적 배경은 무엇인가?
• RQ5 스케일링 지수 (c,d) 는 동일한 점점 큰 열역학적 행동을 보이는 시스템의 동치 클래스를 어떻게 정의하는가?

주요 결과

• 첫 번째부터 세 번째 히친 공리와 형태 $ S = \sum_i g(p_i) $ 를 만족하는 모든 통계계는 대규모 크기 근처에서 유일하게 두 scaling 지수 (c,d)로 분류된다.
• 일반화된 엔트로피는 $ S_{c,d} \propto \sum_i \Gamma(1+d, 1 - c\ln p_i) $ 로 주어지며, (c,d) = (1,1) 일 때 볼츠만-지브스 엔트로피로 축소된다.
• 모든 이러한 시스템의 분포 함수는 라멘트-W 지수의 특수한 경우이며, 尾 꼬리 부분은 오직 (c,d) 에 의해 결정되며, 이는 거듭제곱 법칙 및 스트레칭된 지수 형태의 보편성을 설명한다.
• 0 < c < 1 인 시스템은 복잡하고 강하게 상호작용하는 시스템을 나타내며, c = 1 은 상호작용이 없거나 약한 시스템을 기술한다.
• 이 프레임워크는 유도된 모든 엔트로피에 대해 레쉬에 안정성을 보장하여, 측정 가능한 변환에 대한 물리적 일관성과 강건성을 확인한다.
• 동치 클래스 (c,d) 는 중심극한정리와 유사하게 점점 큰 동치의 분지역할을 하며, 동일한 클래스에 속한 시스템은 크기가 증가함에 따라 동일한 거시적 행동으로 수렴한다.