[논문 리뷰] Nongeneralizability of Tsallis Entropy by means of Kolmogorov-Nagumo averages under pseudo-additivity

Ambedkar Dukkipati, M.N. Murty외 1명|ArXiv.org|2005. 05. 30.

Statistical Mechanics and Entropy참고 문헌 8인용 수 3

한 줄 요약

이 논문은 히스탈스 엔트로피가 칼모고로프-나구모(Kolmogorov-Nagumo, KN) 평균을 통해 일반화될 수 없음을 입증한다. 이는 정의상의 가짜가환성 성질을 유지할 때를 전제로 한다. KN-평균된 히스탈스 엔트로피가 $ S_q(pr) = S_q(p) +_q S_q(r) $ 를 만족시키기 위한 함수적 제약 조건을 분석함으로써, 저자들은 유일하게 선형 KN 함수만이 필요한 조건을 만족시킴을 증명한다. 이는 일반화된 형태가 다시 표준 히스탈스 엔트로피로 수렴함을 의미하며, 이는 이 틀 안에서의 일반화 가능성 부재를 입증한다.

ABSTRACT

As additivity is a characteristic property of the classical information measure, Shannon entropy, pseudo-additivity is a characteristic property of Tsallis entropy. Renyi generalized Shannon entropy by means of Kolmogorov-Nagumo averages, by imposing additivity as a constraint.In this paper we show that there exists no generalization for Tsallis entropy, by means of Kolmogorov-Nagumo averages, which preserves the pseudo-additivity.

연구 동기 및 목표

• 히스탈스 엔트로피가 칼모고로프-나구모(KN) 평균을 통해 일반화될 수 있는지, 이때 정의상의 가짜가환성 성질을 유지할 수 있는지 조사하는 것.
• 일반화된 엔트로피 측도가 히스탈스 엔트로피의 $ q $-가환성 구조를 유지할 수 있도록 해주는 KN 함수 $ \psi $ 의 함수적 형태를 규명하는 것.
• 독립적인 확률 분포에 대해 KN-평균된 엔트로피가 가짜가환성을 만족할 수 있는 수학적 조건을 설정하는 것.
• 레니 엔트로피(일반화된 KN 평균을 통해 가환성으로 일반화됨)와 히스탈스 엔트로피(동일한 형식론 하에서 그러한 일반화를 거부함) 사이의 근본적 차이를 명확히 하는 것.

제안 방법

• KN 함수 $ \psi $ 를 사용하여 일반화된 엔트로피를 $ \widetilde{S}_{\psi}(p) = \psi^{-1}\left[\sum_k p_k \psi(\ln_q(1/p_k))\right] $ 로 수식화한다.
• 독립적인 분포 $ p $ 와 $ r $ 에 대해 가짜가환성 조건 $ \widetilde{S}_{\psi}(pr) = \widetilde{S}_{\psi}(p) +_q \widetilde{S}_{\psi}(r) $ 를 도입한다.
• 함수방정식 $ \psi^{-1}\left[\sum_{i,j} p_i r_j \psi(\widetilde{H}_i^p +_q \widetilde{H}_j^r)\right] = \psi^{-1}\left[\sum_i p_i \psi(\widetilde{H}_i^p)\right] +_q \psi^{-1}\left[\sum_j r_j \psi(\widetilde{H}_j^r)\right] $ 을 유도한다.
• 치환 $ \widetilde{H}_j^r = J $ (상수) 를 통해 결과 방정식을 분석하여 조건 $ \psi^{-1}\left[\sum_k p_k \psi(\widetilde{H}_k^p +_q J)\right] = \psi^{-1}\left[\sum_k p_k \psi(\widetilde{H}_k^p)\right] +_q J $ 를 유도한다.
• 조건을 $ \langle x +_q C \rangle_\psi = \langle x \rangle_\psi +_q C $ 로 단순화하고, 더 나아가 선형 함수방정식 $ \langle x + C \rangle_\psi = \langle x \rangle_\psi + C $ 과 $ \langle Bx \rangle_\psi = B \langle x \rangle_\psi $ 로 변환한다.
• 결론적으로, 유일하게 두 조건을 만족시키는 것은 선형 $ \psi $ 라는 것을 도출하며, 이는 일반화된 형태가 표준 히스탈스 엔트로피로 수렴함을 의미한다.

실험 결과

연구 질문

• RQ1 히스탈스 엔트로피는 칼모고로프-나구모 평균을 통해 일반화될 수 있는가? 이때 정의상의 가짜가환성 성질을 유지할 수 있는가?
• RQ2 일반화된 엔트로피가 $ \widetilde{S}_{\psi}(pr) = \widetilde{S}_{\psi}(p) +_q \widetilde{S}_{\psi}(r) $ 를 만족시키기 위해 필요한 KN 함수 $ \psi $ 의 함수적 형태는 무엇인가?
• RQ3 레니 엔트로피는 KN 평균을 통해 일반화되지만, 히스탈스 엔트로피는 동일한 형식론 하에서 그러한 일반화가 성립하지 않는 이유는 무엇인가? 둘 다 샤논 엔트로피의 일파rametric 일반화임에도 불구하고.
• RQ4 히스탈스 엔트로피의 가짜가환성 엔트로피 일반화를 가능하게 하는 비선형 KN 함수는 존재하는가?
• RQ5 일반화된 엔트로피가 $ q $-가환성 구조를 유지하기 위해 $ \psi $ 에 필요한 필수 및 충분조건은 무엇인가?

주요 결과

• 이동 불변성 $ \langle x + C \rangle_\psi = \langle x \rangle_\psi + C $ 과 스케일링 조건 $ \langle Bx \rangle_\psi = B \langle x \rangle_\psi $ 을 동시에 만족시키는 유일한 KN 함수 $ \psi $ 는 선형 함수이다.
• 만약 $ \psi $ 가 선형일 경우, 일반화된 엔트로피 $ \widetilde{S}_{\psi}(p) $ 는 표준 히스탈스 엔트로피 $ S_q(p) = \frac{1 - \sum_k p_k^q}{q - 1} $ 로 축소된다.
• 비선형 KN 함수(예: 지수함수)는 이동 불변성 조건을 만족하지만 스케일링 조건을 위반하므로, 필수적인 가짜가환성 조건을 위반한다.
• KN 평균 하에서의 가짜가환성 요구 조건은 $ \psi $ 의 함수형태를 선형으로 강제함으로써, 히스탈스 엔트로피의 비트리비얼 일반화 가능성은 배제된다.
• 이것은 히스탈스 엔트로피가 정의상의 가짜가환성 조건 하에서 KN 평균을 통한 일반화와 본질적으로 부합하지 않음을 입증하며, 레니 엔트로피와는 대조된다.
• 결과적으로 명확한 수학적 경계가 설정된다: 히스탈스 엔트로피는 가짜가환성 핵심 구조를 유지하면서 KN 평균을 사용한 확장이 불가능하다.