[論文レビュー] Describing the complexity of systems: multi-variable "set complexity" and the information basis of systems biology

David J. Galas, Nikita A. Sakhanenko+2 more|arXiv (Cornell University)|Feb 27, 2013

Gene Regulatory Network Analysis参考文献 16被引用数 6

ひとこと要約

本稿では、複雑系における多変数依存関係を定量化するための情報理論的測度として、'微分的相互情報量'（DII）を導入する。このDIIは、2変数間の'集合複雑性'を一般化し、高次相互作用にまで拡張することで、バイアスのない集団的依存関係の検出を可能にする。ハイパーグラフに埋め込むことで、文脈依存の複雑性を持つシステム生物学データや他の複雑系の解析に、堅牢なフレームワークを提供する。

ABSTRACT

Context dependence is central to the description of complexity. Keying on the pairwise definition of "set complexity" we use an information theory approach to formulate general measures of systems complexity. We examine the properties of multi-variable dependency starting with the concept of interaction information. We then present a new measure for unbiased detection of multi-variable dependency, "differential interaction information." This quantity for two variables reduces to the pairwise "set complexity" previously proposed as a context-dependent measure of information in biological systems. We generalize it here to an arbitrary number of variables. Critical limiting properties of the "differential interaction information" are key to the generalization. This measure extends previous ideas about biological information and provides a more sophisticated basis for study of complexity. The properties of "differential interaction information" also suggest new approaches to data analysis. Given a data set of system measurements differential interaction information can provide a measure of collective dependence, which can be represented in hypergraphs describing complex system interaction patterns. We investigate this kind of analysis using simulated data sets. The conjoining of a generalized set complexity measure, multi-variable dependency analysis, and hypergraphs is our central result. While our focus is on complex biological systems, our results are applicable to any complex system.

研究の動機と目的

• 文脈依存の依存関係を捉えることができる、多変数系における一般化された複雑性測度の開発。
• 従来の相互情報量測度の限界を克服し、バイアスのない高次依存関係検出手法を導入すること。
• システム生物学や他の複雑系における複雑性を理解するための形式的な情報理論的基盤を提供すること。
• 相互作用パターンのハイパーグラフ表現を通じて、データ駆動型の集団的依存関係解析を可能にすること。
• 2変数間の相互作用を超えて、任意の数の変数に対して一般化された'集合複雑性'の概念を拡張すること。

提案手法

• 情報理論的原則に基づき、2変数系における集合複雑性の一般化として、n変数系における'微分的相互情報量'（DII）を提案する。
• 相互情報量を基盤とし、高次依存関係のバイアスのない検出を可能にするために再定義する。
• DIIの臨界的極限的性質を適用し、多変数依存関係検出における一貫性と安定性を確保する。
• 集団的依存関係をハイパーグラフで表現し、ノードが変数を表し、ハイパーエッジが多変数相互作用を符号化する。
• シミュレートされたデータセットを用いて、本手法が複雑な相互作用パターンの検出および可視化が可能であることを検証する。
• 一般化された集合複雑性、多変数依存関係解析、ハイパーグラフモデリングを統合し、統一されたフレームワークを構築する。

実験結果

リサーチクエスチョン

• RQ1 複雑系における多変数依存関係を、文脈に敏感かつバイアスのない方法で測定するにはどうすればよいか？
• RQ2 2変数間の'集合複雑性'を高次相互作用へと拡張するための情報理論的基盤は何か？
• RQ3 微分的相互情報量（DII）は、従来の相互情報量に比べて、集団的依存関係の検出においてどのように向上するか？
• RQ4 DIIを用いて、複雑系の相互作用を意味のあるハイパーグラフで表現できるか？
• RQ5 DIIの極限的性質は、多変数系解析における信頼性を保証するためにどのように寄与するか？

主な発見

• 微分的相互情報量（DII）は、任意の数の変数に一般化された2変数間の集合複雑性を一貫的かつバイアスのない方法で測定する。
• DIIの極限的性質により、高次相互作用の検出が高次元系においても安定的かつ頑健になる。
• DIIを用いることで、複数の変数間の複雑な相互作用パターンを効果的に表現するハイパーグラフの構築が可能になる。
• シミュレートされたデータ解析により、DIIが2変数測度では検出できない集団的依存関係を効果的に同定できることを示した。
• 本手法は、システム生物学や他の複雑系における複雑性を研究するための形式的で情報理論的な基盤を提供する。
• 一般化された集合複雑性、多変数依存関係検出、ハイパーグラフモデリングの統合により、複雑系解析の包括的かつ包括的なフレームワークが構築された。