[논문 리뷰] A Theory of Pragmatic Information and Its Application to the Quasispecies Model of Biological Evolution

Edward D. Weinberger|ArXiv.org|2001. 05. 11.

Evolution and Genetic Dynamics참고 문헌 5인용 수 4

한 줄 요약

이 논문은 수신자의 의사결정 유틸리티를 기반으로 한 의사소통 정보의 형식 이론을 제안하며, 이를 메시지 수신 후 행동 확률 분포에서의 정보 증가로 정의한다. 이 정의가 핵심 욕망 조건을 유일하게 만족함을 증명하고, 프라그마틱 정보가 아이gent의 쿼اس스피시즈 모델에서 전역 리아푸노프 함수로 작용함을 보이며, 샤논 엔트로피를 초월해 의미를 포착하는 새로운 비단조선적 진화 정보 측정법을 제공한다.

ABSTRACT

"Standard" information theory says nothing about the semantic content of information. Nevertheless, applications such as evolutionary theory demand consideration of precisely this aspect of information, a need that has motivated a largely unsuccessful search for a suitable measure of an "amount of meaning". This paper represents an attempt to move beyond this impasse, based on the observation that the meaning of a message can only be understood relative to its receiver. Positing that the semantic value of information is its usefulness in making an informed decision, we define pragmatic information as the information gain in the probability distributions of the receiver's actions, both before and after receipt of a message in some pre-defined ensemble. We then prove rigorously that our definition is the only one that satisfies obvious desiderata, such as the additivity of information from logically independent messages. This definition, when applied to the information "learned" by the time evolution of a process, defies the intuitions of the few previous researchers thinking along these lines by being monotonic in the uncertainty that remains after receipt of the message, but non-monotonic in the Shannon entropy of the input ensemble. It then follows that the pragmatic information of the genetic "messages" in an evolving population is a global Lyapunov function for Eigen's quasi-species model of biological evolution. A concluding section argues that a theory such as ours must explicitly acknowledge purposeful action, or "agency", in such diverse fields as evolutionary theory and finance.

연구 동기 및 목표

• 진화적 및 생물학적 시스템에서 의미적 또는 의미 있는 정보에 대한 엄밀한 측정법이 부족한 데 대응하기 위해.
• 수신자가 메시지를 수신한 후 행동 확률 분포에서의 유틸리티 증가로 프라그마틱 정보를 정의하기 위해.
• 가장 핵심적인 욕망 조건들인 가분성과 일관성과 같은 성질을 만족하는 형식적이고 수학적으로 엄밀한 프라그마틱 정보 정의를 수립하기 위해.
• 이 이론을 분자의 진화를 위한 아이건의 쿼اس스피시즈 모델에 적용하고, 리아푸노프 함수를 통해 전역 안정성을 입증하기 위해.
• 정보, 진화, 금융 이론에서 목적적인 행동 또는 '자율성'을 공식적으로 인정해야 한다고 주장하기 위해.

제안 방법

• 메시지 수신 후 수신자의 행동 확률 분포에서의 불확실성 감소를 기반으로 프라그마틱 정보를 정의하며, 이를 사전 집합에 상대적으로 정의한다.
• 행동 분포에 대한 베이지안 업데이트를 통해 수신자의 의사결정 과정을 수학적으로 형식화한다.
• 제안된 프라그마틱 정보 측정법이 독립적인 메시지에 대해 가분성과 같은 욕망 조건을 유일하게 만족함을 증명한다.
• 유전적 서열을 메시지로, 적합도를 행동 유틸리티로 간주하면서 쿼ас스피시즈 모델의 시간 진화에 이 측정법을 적용한다.
• 잔류 불확실성에 대해 프라그마틱 정보는 단조롭지만, 입력 샤논 엔트로피에 대해서는 비단조선적임을 입증하며, 고전적 정보이론과의 차이를 드러낸다.
• 쿼ас스피시즈 역학에서 프라그마틱 정보가 전역 리아푸노프 함수로 작용함을 입증하여, 진화적 안착점으로의 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 의미적 또는 프라그마틱 정보를 측정할 수 있는 형식적 방법은 무엇인가, 이는 정보 시스템에서 의미적 내용을 포착할 수 있는가?
• RQ2 의사결정 이론적 맥락에서 일관성 있고 유용하기 위해 프라그마틱 정보 측정법이 만족해야 할 수학적 성질은 무엇인가?
• RQ3 진화 과정에서 프라그마틱 정보는 샤논 엔트로피와 어떻게 다를까?
• RQ4 쿼아스스피시즈 모델에서 프라그마틱 정보가 리아푸노프 함수로 작용할 수 있는가, 이를 통해 진화 수렴성을 입증할 수 있는가?
• RQ5 생물학적 및 금융 시스템에서 정보를 정의할 때 자율성 또는 목적적인 행동은 어떤 역할을 하는가?

주요 결과

• 제안된 프라그마틱 정보 측정법은 메시지의 논리적 독립성 하에서 가분성, 일관성, 단조성과 같은 욕망 조건을 유일하게 만족하는 함수이다.
• 메시지 수신 후 잔류 불확실성에 대해 프라그마틱 정보는 단조롭지만, 동일한 맥락에서 샤논 엔트로피는 비단조선적 행동을 보인다.
• 쿼아스스피시즈 모델에서 프라그마틱 정보는 전역 리아푸노프 함수로 작용하여, 시스템이 안정적인 진화적 안착점으로 수렴함을 입증한다.
• 이 이론은 정보의 의미가 본질적으로 관계적임을 드러내며, 이는 수신자의 의사결정 프레임워크와 사전 신뢰에 의존한다.
• 이 프레임워크는 진화적 및 경제적 시스템에서 정보 이론에 자율성 또는 목적적인 행동을 명시적으로 포함시켜야 한다고 요구한다.
• 논문은 원래 2번 정리의 증명에 존재하던 결함을 수정하여 이론의 수학적 기반을 더욱 강화한다.