[論文レビュー] A Theory of Pragmatic Information and Its Application to the Quasispecies Model of Biological Evolution

Edward D. Weinberger|ArXiv.org|May 11, 2001

Evolution and Genetic Dynamics参考文献 5被引用数 4

ひとこと要約

本稿は、受信者の意思決定の有用性に基づく、弁別的情報の形式的理論を提示する。これは、メッセージ受信後の行動確率分布における情報の増加として定義され、この定義が主要な望ましい性質を一意に満たすことを証明している。また、エーゲンのクオージスペシーズモデルにおいて、弁別的情報がグローバルなリャプノフ関数として機能することを示し、シャノンエントロピーをはるかに超える意味的意味を捉える、非単調な進化的情報の新たな測度を提供する。

ABSTRACT

"Standard" information theory says nothing about the semantic content of information. Nevertheless, applications such as evolutionary theory demand consideration of precisely this aspect of information, a need that has motivated a largely unsuccessful search for a suitable measure of an "amount of meaning". This paper represents an attempt to move beyond this impasse, based on the observation that the meaning of a message can only be understood relative to its receiver. Positing that the semantic value of information is its usefulness in making an informed decision, we define pragmatic information as the information gain in the probability distributions of the receiver's actions, both before and after receipt of a message in some pre-defined ensemble. We then prove rigorously that our definition is the only one that satisfies obvious desiderata, such as the additivity of information from logically independent messages. This definition, when applied to the information "learned" by the time evolution of a process, defies the intuitions of the few previous researchers thinking along these lines by being monotonic in the uncertainty that remains after receipt of the message, but non-monotonic in the Shannon entropy of the input ensemble. It then follows that the pragmatic information of the genetic "messages" in an evolving population is a global Lyapunov function for Eigen's quasi-species model of biological evolution. A concluding section argues that a theory such as ours must explicitly acknowledge purposeful action, or "agency", in such diverse fields as evolutionary theory and finance.

研究の動機と目的

• 進化的・生物学的システムにおける意味的または意味のある情報の明確な測定法の欠如に対処すること。
• メッセージ受信後の受信者の行動確率分布における有用性の増加として弁別的情報を定義すること。
• 加法性や一貫性といった基本的な望ましい性質を満たす、形式的かつ数学的に厳密な弁別的情報の定義を確立すること。
• この理論をエーゲンの分子進化のクオージスペシーズモデルに適用し、リャプノフ関数を用いてグローバル安定性を示すこと。
• 情報、進化、ファイナンスの理論において、意図的行動または「自律性」を形式的に認めることの重要性を主張すること。

提案手法

• メッセージ受信後の受信者の行動確率分布における不確実性の低減を、事前集合に基づいて定義することで弁別的情報を定義する。
• 行動分布上のベイズ更新を用いて受信者の意思決定プロセスを形式化する。
• 提案された弁別的情報測度が、独立なメッセージに対して加法性を満たすという望ましい性質を満たす唯一の測度であることを証明する。
• 遺伝子配列をメッセージ、適応度を行動の有用性として扱い、クオージスペシーズモデルの時間的変化に測度を適用する。
• 残存不確実性に関しては弁別的情報が単調であるが、入力のシャノンエントロピーに関しては非単調であることを示し、古典的情報理論とは区別すること。
• 弁別的情報がクオージスペシーズダイナミクスのグローバルなリャプノフ関数として機能することを確立し、進化的アトラクターへの収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 意味的または弁別的情報の形式的測定法は、どのようにして情報システムにおける意味的コンテンツを捉えることができるか？
• RQ2 意思決定理論的文脈において一貫性と有用性を両立させるために、弁別的情報測度が満たすべき数学的性質は何か？
• RQ3 進化的プロセスにおいて、弁別的情報はシャノンエントロピーとはどのように異なる挙動を示すか？
• RQ4 弁別的情報はクオージスペシーズモデルにおいてリャプノフ関数として機能できるか。その結果、進化的収束が証明されるか？
• RQ5 生物学的および金融的システムにおける情報の定義において、自律性または意図的行動はどのような役割を果たすか？

主な発見

• 提案された弁別的情報測度は、メッセージの論理的独立性下で加法性、一貫性、単調性という望ましい性質を満たす唯一の関数である。
• メッセージ受信後の残存不確実性に関しては弁別的情報が単調であるが、同じ文脈でシャノンエントロピーは非単調な挙動を示す。
• クオージスペシーズモデルにおいて、弁別的情報はグローバルなリャプノフ関数として機能し、システムが安定した進化的アトラクターへ収束することを証明する。
• 理論は、情報の意味が本質的に関係的であることを明らかにし、受信者の意思決定フレームワークと事前の信念に依存することを示している。
• この枠組みは、特に進化的および経済的システムにおいて、情報理論に自律性または意図的行動を明示的に組み込む必要があることを示している。
• 論文は、定理2の元の証明における欠陥を是正し、理論の数学的基盤を強化している。