[논문 리뷰] Maximum likelihood method and Fisher's information in physics and econophysics

Jacek Syska|arXiv (Cornell University)|2012. 10. 20.

Quantum Mechanics and Applications참고 문헌 23인용 수 4

한 줄 요약

이 논문은 최대우도법(MLM)과 피셔 정보 기하학을 사용하여 물리학 및 경제물리학에서의 통계적 추론을 위한 통합 프레임워크를 개발한다. 통계적 추정, 정보 기하학, 장 이론 간의 연결을 수립하며, 구조적 정보 원리와 피셔 정보가 양자 및 고전 장 이론의 것과 유사한 장 방정식을 이끌어내며, 핵심 결과로는 피셔 정보 행렬이 통계 모델의 기하학을 뒷받침하고 변분 원리를 통해 역학적 방정식을 도출함을 보여준다.

ABSTRACT

Three steps in the development of the maximum likelihood (ML) method are presented. At first, the application of the ML method and Fisher information notion in the model selection analysis is described (Chapter 1). The fundamentals of differential geometry in the construction of the statistical space are introduced, illustrated also by examples of the estimation of the exponential models. At second, the notions of the relative entropy and the information channel capacity are introduced (Chapter 2). The observed and expected structural information principle (IP) and the variational IP of the modified extremal physical information (EPI) method of Frieden and Soffer are presented and discussed (Chapter 3). The derivation of the structural IP based on the analyticity of the logarithm of the likelihood function and on the metricity of the statistical space of the system is given. At third, the use of the EPI method is developed (Chapters 4-5). The information channel capacity is used for the field theory models classification. Next, the modified Frieden and Soffer EPI method, which is a nonparametric estimation that enables the statistical selection of the equation of motions of various field theory models (Chapter 4) or the distribution generating equations of statistical physics models (Chapter 5) is discussed. The connection between entanglement of the momentum degrees of freedom and the mass of a particle is analyzed. The connection between the Rao-Cramer inequality, the causality property of the processes in the Minkowski space-time and the nonexistence of tachions is shown. The generalization of the Aoki-Yoshikawa sectoral productivity econophysical model is also presented (Chapter 5). Finally, the Frieden EPI method of the analysis of the EPR-Bhom experiment is presented. It differs from the Frieden approach by the use of the information geometry methods.

연구 동기 및 목표

• 최대우도추정(MLE)과 피셔 정보를 물리학 및 경제물리학에 적용하기 위한 이론적 기반을 구축하기 위해.
• 특히 피셔 정보와 쌍대 아핀 접속을 중심으로 정보 기하학을 활용하여 통계 모델의 기하적 구조를 탐색하기 위해.
• 정보 이론적 원리에서 유도된 장 방정식을 도출하여 통계 모델의 구조가 역학 법칙을 이끌어내는 방식을 보여주기 위해.
• 추정 이론에 기반한 정보 기반 변분 원리를 통해 고전적 및 양자 장 이론을 통합하기 위해.
• 피셔 정보 행렬과 그 기하적 성질이 상대성 이론 및 양자 장 이론의 방정식과 유사한 형태로 자연스럽게 유도됨을 보여주기 위해.

제안 방법

• 특히 지수족에 대해 물리학 및 경제물리학의 통계 모델에 최대우도법(MLM)을 적용한다.
• 피셔 정보를 사용하여 통계 다양체 위의 리만 메트릭을 정의함으로써 매개변수 공간의 미분기하학적 분석을 가능하게 한다.
• 쌍대 아핀 접속(α-접속)의 개념과 쌍대 매개변수화 간 레지오르드 변환을 도입한다.
• 추정 정밀도의 기본 한계를 정의하는 크라머-라오 부등식과 그 다변량 형태를 유도한다.
• 최소 피셔 정보 원리(또는 최대 엔트로피 원리)를 적용하여 클라인-고든 방정식과 디랙형 방정식을 포함한 장 방정식을 도출한다.
• 정보 기하학적 접근을 사용하여 마스터 방정식을 유도하고, 이를 확률적 과정과 장 역학과 연결한다.

실험 결과

연구 질문

• RQ1 최대우도법은 물리적 및 경제물리적 모델에 체계적으로 어떻게 적용될 수 있는가?
• RQ2 피셔 정보는 물리학 및 경제물리학에서 통계 모델의 기하학을 정의하는 데 어떤 역할을 하는가?
• RQ3 최소 피셔 정보와 같은 정보 이론적 원리로부터 고전적 및 양자 장 이론의 장 방정식을 도출할 수 있는가?
• RQ4 정보 기하학에서의 쌍대 매개변수화와 α-접속은 물리적 대칭성과 보존 법칙과 어떻게 관련되는가?
• RQ5 피셔 정보 행렬은 상대성 이론적 장 이론의 맥락에서 장의 역학과 어떻게 연결되는가?

주요 결과

• 피셔 정보 행렬은 통계 다양체 위에 리만 메트릭을 정의하여 통계적 추론의 기하학적 공식화를 가능하게 한다.
• 크라머-라오 부등식은 스칼라 및 다변량 형태로 모두 도출되었으며, 매개변수 추정 정밀도의 기본 한계를 설정한다.
• 최소 피셔 정보 원리에 따라 적용된 최대우도법은 장 이론의 변분 원리로부터 도출된 것과 동일한 장 방정식을 도출한다.
• 지수족의 경우 적절한 매개변수화 하에서 정보 기하학적 구조는 자연스럽게 클라인-고든 방정식과 디랙 방정식을 이끌어낸다.
• 쌍대 아핀 기하학적 구조(α-접속)와 쌍대 좌표 간의 레지오르드 변환은 장 이론적 모델에서 통계적 추론의 기하학적 기반을 제공한다.
• 이 논문은 정보 기하학적 접근이 추정 이론, 정보 기하학, 장 이론이 통합된 프레임워크를 제공함을 보여주며, 특히 정보 원리에서 유도된 상대성 장 방정식의 맥락에서 이 통합이 성립함을 입증한다.