[論文レビュー] Learning Large Scale Ordinary Differential Equation Systems

Frederik Vissing Mikkelsen, Niels Richard Hansen|arXiv (Cornell University)|Oct 25, 2017

Metabolomics and Mass Spectrometry Studies参考文献 17被引用数 5

ひとこと要約

本稿では、複数の実験的条件下での時系列データから大規模な多項式および有理関数型常微分方程式（ODE）系を学習するための、適応的積分マッチング（AIM）アルゴリズムを提案する。正則化積分マッチングと数値的ODE解法を組み合わせることで、システム生物学における正確でスパースなネットワーク回復が可能となり、DREAM8リン酸化タンパク質ネットワークチャレンジにおいて0.74のAUROCを達成し、大規模システムにおける最先端の性能と計算可能性を示した。

ABSTRACT

Learning large scale nonlinear ordinary differential equation (ODE) systems from data is known to be computationally and statistically challenging. We present a framework together with the adaptive integral matching (AIM) algorithm for learning polynomial or rational ODE systems with a sparse network structure. The framework allows for time course data sampled from multiple environments representing e.g. different interventions or perturbations of the system. The algorithm AIM combines an initial penalised integral matching step with an adapted least squares step based on solving the ODE numerically. The R package episode implements AIM together with several other algorithms and is available from CRAN. It is shown that AIM achieves state-of-the-art network recovery for the in silico phosphoprotein abundance data from the eighth DREAM challenge with an AUROC of 0.74, and it is demonstrated via a range of numerical examples that AIM has good statistical properties while being computationally feasible even for large systems.

研究の動機と目的

• ネットワーク構造に関する事前知識がほとんどない状況において、時系列データから大規模非線形ODE系を学習する課題に対処すること。
• 複数の環境下での実験データから、スパースなネットワーク構造を動的システムとして推定するための、計算的に効率的で統計的に頑健な手法を開発すること。
• 完全にデータ駆動の推定から、ODE系学習への生物学的事前知識の統合までをサポートする柔軟なフレームワークを提供すること。
• 本手法の性能を、DREAM8リン酸化タンパク質ネットワークやシュードモナス・セラミアエのグリコリシスを含む、実際のおよびシミュレーテッドの大規模システムで評価すること。
• 既存手法と比較して、AIMアルゴリズムがネットワーク回復の正確性とスケーラビリティの両面で統計的および計算的利点を示すことを示すこと。

提案手法

• 複数の環境（干渉や摂動を含む）からの時系列データを用いて、多項式および有理関数型ODE系を学習するフレームワークを提案する。
• 初期パラメータ値を推定するために、正則化積分マッチングを適用する最初の段階を備えた、適応的積分マッチング（AIM）アルゴリズムを導入する。
• 数値的にODEを解くことでパラメータ推定値を精緻化するための、変更を加えた最小二乗ステップを実施する。
• プロキシマル勾配法におけるスクリーニング戦略を用いて、定期的な間隔で活性パラメータ集合を特定することで、計算コストを低減する。
• 非凸正則化項に対しては、主要化技術を用い、ペナルティ関数の2階微分に基づいて反復的にペナルティ重みを更新する。
• AIMおよびその他のアルゴリズムを実装したRパッケージepisodeを実装し、再現性のある研究や応用を可能とするためにCRANに公開している。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型手法は、複数環境の時系列データから大規模ODE系の真のネットワーク構造を正確に回復できるか？
• RQ2 既存手法と比較して、提案手法AIMはネットワーク回復の正確性と計算効率の両面で優れているか？
• RQ3 このフレームワークは、ODE系学習プロセスにどの程度まで生物学的事前知識を統合できるか？
• RQ4 AIMの実世界の大規模システム（DREAM8リン酸化タンパク質ネットワークやイーストのグリコリシス）における性能はいかがなものか？
• RQ5 スクリーニングや適応的ペナルティ重み付けといった、異なるアルゴリズム的要素が、手法の統計的および計算的特性にどのように影響を与えるか？

主な発見

• AIMアルゴリズムは、DREAM8チャレンジのインシリコリン酸化タンパク質濃度データにおいて、0.74のAUROCを達成し、ネットワーク回復の分野で最先端の性能を示した。
• AIMは、真のエッジを的確に特定し、高次元系においても低誤検出率を示す、強固な統計的性質を有している。
• スクリーニング戦略のおかげで、不要な感度計算を低減することができ、大規模システムに対しても計算的に実行可能である。
• 広範なシミュレーションの結果、特にスパースで非線形なODE系において、他の手法を上回るネットワーク回復の正確性を示した。
• シュードモナス・セラミアエにおけるグリコリシスの完全スケールモデルにおいて、正しいネットワーク構造が正常に回復された。これは、複雑な生物学的系への適用可能性を裏付けた。
• AIMおよびその他のアルゴリズムを実装したRパッケージepisodeは、CRANで公開されており、再現性の高い研究やシステム生物学分野における広範な採用を可能にしている。