[論文レビュー] Learning Causality: Synthesis of Large-Scale Causal Networks from High-Dimensional Time Series Data

Mark-Oliver Stehr, Peter Avar+13 more|arXiv (Cornell University)|May 6, 2019

Computational Drug Discovery Methods参考文献 27被引用数 5

ひとこと要約

本論文では、高次元時系列データから大規模な因果ネットワークを合成するための機械学習フレームワークを提示する。シアンプスニューラルネットワークを用いて時系列間の確率的因果関係を検出する。アプローチはガウス過程と抽象的ネットワークモデリングを統合し、生物学的仮定を最小限に抑えつつ、複雑なシステムにおいてもスケーラブルな形でシステム生物学における作用機構解析を可能にする。

ABSTRACT

There is an abundance of complex dynamic systems that are critical to our daily lives and our society but that are hardly understood, and even with today's possibilities to sense and collect large amounts of experimental data, they are so complex and continuously evolving that it is unlikely that their dynamics will ever be understood in full detail. Nevertheless, through computational tools we can try to make the best possible use of the current technologies and available data. We believe that the most useful models will have to take into account the imbalance between system complexity and available data in the context of limited knowledge or multiple hypotheses. The complex system of biological cells is a prime example of such a system that is studied in systems biology and has motivated the methods presented in this paper. They were developed as part of the DARPA Rapid Threat Assessment (RTA) program, which is concerned with understanding of the mechanism of action (MoA) of toxins or drugs affecting human cells. Using a combination of Gaussian processes and abstract network modeling, we present three fundamentally different machine-learning-based approaches to learn causal relations and synthesize causal networks from high-dimensional time series data. While other types of data are available and have been analyzed and integrated in our RTA work, we focus on transcriptomics (that is gene expression) data obtained from high-throughput microarray experiments in this paper to illustrate capabilities and limitations of our algorithms. Our algorithms make different but overall relatively few biological assumptions, so that they are applicable to other types of biological data and potentially even to other complex systems that exhibit high dimensionality but are not of biological nature.

研究の動機と目的

• 高次元時系列データから因果ネットワークを推論するスケーラブルでデータ駆動型の手法を開発すること。特に、システム生物学を対象とする。
• データが限られ、システムの複雑さが高いため、生物学的仮定を最小限に抑えつつ、モデルの解釈可能性とスケーラビリティを最大化すること。
• トランスクリプトミクスデータから因果ネットワークを合成することで、トキシコロジーおよび薬物応答における作用機構（MoA）分析を支援すること。
• 観測データからの計算的推論を通じて、仮説の生成と生物学的モデルの反復的改善を可能にすること。
• 生物学的分野にとどまらず、金融市場やニュースネットワークなど、高次元時系列が複雑なシステムダイナミクスを反映する分野への応用可能性を拡張すること。

提案手法

• ペアごとの時系列間における確率的因果関係の検出を実行するために、シアンプスニューラルネットワークを用い、因果的関係と非因果的関係を区別する学習を行う。
• 非線形な時間スケールをモデル化し、因果関係検出器のトレーニングおよび検証のための合成時系列データを生成するために、ガウス過程を用いる。
• 畳み込みオートエンコーダーと生成的対抗ネットワーク（GAN）を用いて、元のデータ分布を学習し、合成データの品質を向上させる。
• 深層およびワイドニューラルネットワークを統合し、システム状態の時間的変化を予測し、それを因果グラフとして可視化する。
• PCA、クラスタリング、さまざまなニューラルネットワークを統合した一貫したフレームワーク（JupyterFlow）内に複数のモデルを統合し、エンドツーエンドのネットワーク合成を実現する。
• シアンプスネットワークのトレーニングおよび検証のため、ガウス過程に基づく合成的動的遺伝子発現モデルを用いる。

実験結果

リサーチクエスチョン

• RQ1 限られたサンプル数と高いノイズを伴う高次元時系列データにおいて、確率的因果関係を信頼性高く検出する方法は何か？
• RQ2 合成データでトレーニングされたシアンプスニューラルネットワークは、実世界のトランスクリプトミクスデータへの因果ネットワーク推論にどの程度一般化可能か？
• RQ3 生物学的仮定を最小限に抑えつつ、解釈可能性とスケーラビリティを維持するため、因果ネットワーク合成をどのように実現できるか？
• RQ4 GANのような生成モデルは、因果関係検出器のトレーニングに用いる合成データの現実性と正確性を向上させる役割を果たすか？
• RQ5 局所的な因果関係検出とグローバルなネットワーク制約（例：サイクルの欠如、次数分布）を統合することで、全体的なネットワーク品質が向上するか？

主な発見

• シアンプスニューラルネットワークのアプローチは、確率的信頼性を伴って時系列の因果関係を検出し、高次元データから大規模な因果ネットワークを合成可能であることを示した。
• ガウス過程を用いて生成された合成時系列データは、因果関係検出のための信頼性がありスケーラブルなトレーニング信号を提供し、モデルの一般化性能を向上させた。
• 畳み込みGANの統合により、合成データの現実性が向上し、後続の因果関係検出タスクのパフォーマンスが向上した。
• フレームワークは高い移植性を示し、グローバル金融市場やニュースネットワークなど、非生物学的分野においても、初期の有望な結果が得られた。
• 確率的因果関係検出とグローバルなネットワーク制約を組み合わせることで、誤検出率が低下した。これは、ハイブリッドモデリングアプローチの可能性を示唆している。
• JupyterFlowフレームワークにより、モジュール化され、再現可能でスケーラブルな因果ネットワーク合成パイプラインの実装が可能となり、反復的改善と仮説検証を支援した。