[論文レビュー] CoHSI I; Detailed properties of the Canonical Distribution for Discrete Systems such as the Proteome

Les Hatton, Gregory W. Warr|arXiv (Cornell University)|Jun 21, 2018

Statistical Mechanics and Entropy参考文献 13被引用数 6

ひとこと要約

本稿では、タンパク質ゲノム、ソフトウェア、テキストなどの離散的システムの根本的な統計的モデルとして、CoHSI（ハートリー・シャノン情報の保存則）分布を導入する。統計力学の枠組み内で情報理論的制約を適用することにより、自然にべき乗則の尾部と単峰性のピークを生じる分布が得られ、局所的なメカニズム（自然選択や人為的設計など）を必要とせず、平均的成分長の保存と長大な成分の頻発を説明できる。

ABSTRACT

The CoHSI (Conservation of Hartley-Shannon Information) distribution is at the heart of a wide-class of discrete systems, defining the length distribution of their components amongst other global properties. Discrete systems such as the known proteome where components are proteins, computer software, where components are functions and texts where components are books, are all known to fit this distribution accurately. In this short paper, we explore its solution and its resulting properties and lay the foundation for a series of papers which will demonstrate amongst other things, why the average length of components is so highly conserved and why long components occur so frequently in these systems. These properties are not amenable to local arguments such as natural selection in the case of the proteome or human volition in the case of computer software, and indeed turn out to be inevitable global properties of discrete systems devolving directly from CoHSI and shared by all. We will illustrate this using examples from the Uniprot protein database as a prelude to subsequent studies.

研究の動機と目的

• 離散的システム（タンパク質ゲノム、ソフトウェア、テキストなど）の普遍的モデルとしてCoHSI分布を確立すること。
• 異なる進化的・設計的歴史を持つにもかかわらず、平均的成分長が多様なシステムで著しく保存されている理由を説明すること。
• 長大な成分が、指数分布下では希少な異常事象であるのに対し、CoHSI分布のグローバルな性質によって必然的に生じるという事実を示すこと。
• CoHSI方程式を用いた、成分長分布の再現可能な解析のための計算フレームワークを提供すること。
• 今後の論文がこの情報理論的アプローチを用いてタンパク質ゲノムを詳細に分析するための理論的基盤を構築すること。

提案手法

• すべてのミクロ状態が等確率である統計力学モデルを構築し、グローバル制約としてハートリー・シャノン情報の保存則（CoHSI）を適用する。
• CoHSI方程式を用いて、成分長分布の暗黙的解を導出する：$ \log t_i + \frac{1+8t_i+24t_i^2}{6(t_i+4t_i^2+8t_i^3)} = -\alpha - \beta \left( \frac{d}{dt_i} \log N(t_i, a_i; a_i) \right) $、ここで$ N $はアルファベットサイズ$ a_i $のトークン$ t_i $の順序付き配置の数を数える。
• 小規模な$ t_i $に対して高精度を得るために、ラマヌジャンの$ \log t_i! $の近似式を用い、解の整合性を向上させる。
• パrameter空間$ \alpha, \beta $における平均、中央値、最頻値の3次元パースペクティブプロットを用いて、分布の挙動を分析し、明確な応答パターンを同定する。
• パrameter $ \alpha $が正規化を制御し、$ \beta $が大規模な成分におけるべき乗則の勾配を制御することを示し、両者とも小規模な成分におけるピーク形状に寄与することを確認する。
• モデルのスケール不変性を検証し、漸近的にべき乗則分布に近づく能力を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 タンパク質ゲノムやソフトウェアなど、多様な離散的システムにおいて、異なる局所的メカニズム（進化的・設計的歴史）を持つにもかかわらず、なぜ平均的成分長が著しく保存されているのか。
• RQ2 指数分布下では希少であるにもかかわらず、タンパク質ゲノムのようなシステムで長大な成分が頻発する原因は何か。
• RQ3 CoHSI方程式におけるパrameter $ \alpha $ と $ \beta $ が、分布のピークとテール挙動をどのように共同で形状づけているか。
• RQ4 TrEMBLのような実際のシステムにおける観察された長さ分布は、選択や設計を仮定しない最小限の情報理論的モデルによってどの程度説明可能か。
• RQ5 パrameter変動に対して、分布の最頻値が平均値や中央値とは異なって振る舞うのはなぜか。

主な発見

• CoHSI方程式は、タンパク質ゲノム、ソフトウェア、テキストなどの離散的システムの成分長分布を高い精度でモデル化できる。
• 大規模な成分に対して、分布は漸近的にべき乗則に近づき、TrEMBLのような実世界の観測結果と一致する。
• パrameter $ \beta $ は、補完的累積分布関数（ccdf）のべき乗則勾配を制御し、TrEMBLにおける典型的な値は$ \beta \sim 0.1 $程度である。
• パrameter $ \alpha $ は正規化を制御し、小規模な$ \beta $では平均値や中央値にほとんど影響を与えないため、大規模な成分サイズではパラメータが分離していると示唆される。
• 最頻値は$ \alpha $の増加とともに増加し、$ \beta $の増加とともに減少するが、平均値と中央値は両方とも$ \alpha $および$ \beta $の増加とともに増加するため、逆転的挙動を示す。
• CoHSI分布はスケール不変性を有する。これは、合計成分数$ T $に明示的な依存がないため、サイズが異なるあらゆるシステムに普遍的に適用可能であることを支持する。