[論文レビュー] Squeeze-and-Breathe Evolutionary Monte Carlo Optimisation with Local Search Acceleration and its application to parameter fitting

Mariano Beguerisse-Díaz, Baojun Wang+2 more|arXiv (Cornell University)|Jul 14, 2011

Advanced Multi-Objective Optimization Algorithms被引用数 4

ひとこと要約

本論文は、進化的戦略、逐次モンテカルロ法、局所探索を統合することで、非線形生物学的モデルにおけるパラメータの効率的適合を実現する、新しいスイーブ・アンド・ブレス・エボリューショナリーモンテカルロ（SBE-MC）最適化アルゴリズムを提案する。反復的に局所最適化と履歴的事前分布からの適応的リサンプリングを用いてパラメータ分布を精錬することで、真のパラメータ範囲や桁数が不明であっても、ロバストな収束を達成する。特に、複雑でノイズが多く、高次元な生物学的パラメータ推定問題において、標準的なヒューリスティクスを上回る性能を示す。

ABSTRACT

Motivation: Estimating parameters from data is a key stage of the modelling process, particularly in biological systems where many parameters need to be estimated from sparse and noisy data sets. Over the years, a variety of heuristics have been proposed to solve this complex optimisation problem, with good results in some cases yet with limitations in the biological setting. Results: In this work, we develop an algorithm for model parameter fitting that combines ideas from evolutionary algorithms, sequential Monte Carlo and direct search optimisation. Our method performs well even when the order of magnitude and/or the range of the parameters is unknown. The method refines iteratively a sequence of parameter distributions through local optimisation combined with partial resampling from a historical prior defined over the support of all previous iterations. We exemplify our method with biological models using both simulated and real experimental data and estimate the parameters efficiently even in the absence of a priori knowledge about the parameters.

研究の動機と目的

• データがスパースでノイズが多く、パラメータが未知の桁数をとる非線形生物学的モデルにおけるパラメータ推定の課題に対処すること。
• システム生物学において一般的な、局所最適解に陥る、計算コストの高さ、正確な事前分布への依存といった、従来の最適化手法の限界を克服すること。
• パラメータ範囲や初期分布の事前知識を必要としない、ロバストでグローバルに収束する手法を開発すること。
• 非線形パラメータ依存性を有する常微分方程式で記述されるモデルにおける、効率的かつ信頼性の高いパラメータ適合を可能にすること。
• 予測モデリング、モデル選択、実験設計の指針を支援することで、モデリングと実験のループを閉じること。

提案手法

• 本手法は、『スイーブ』（局所最適化）と『ブレス』（履歴的事前分布からのリサンプリング）のステップを交互に繰り返す反復フレームワークを採用し、パラメータ分布を精錬する。
• グローバル探索のための進化的アルゴリズムと、低誤差パラメータ集合への収束を加速する局所探索を組み合わせる。
• 履歴的事前分布は反復ごとに動的に更新され、これまでにサンプリングされたすべてのパラメータ集合のサポートを捉え、将来の探索をガイドする。
• 逐次モンテカルロの原則を用いて、重み付きリサンプリングにより事前分布を事後分布にマッピングし、低誤差領域に集中させる。
• 解析的解が得られないモデルに対しても適応可能となるよう、明示的なコスト関数計算を避けてシミュレーションベースの誤差評価を用いる。
• 突然変異、選択、局所精錬の組み合わせによってパラメータ更新が行われ、多様性の維持と収束の両立を図る。

実験結果

リサーチクエスチョン

• RQ1 進化的手法、モンテカルロ法、局所探索法を統合したハイブリッド最適化フレームワークは、データが限られた非線形生物学的モデルにおけるパラメータ適合を改善できるか？
• RQ2 真のパラメータ値が初期事前分布のサポート外にある場合、特に桁数が不明な場合に、本手法はどのように性能を示すか？
• RQ3 局所探索による加速は、標準的な進化的手法や純粋なモンテカルロ法と比較して、収束速度をどの程度向上させるか？
• RQ4 線形性や明示的なコスト関数を必要としない非線形パラメータ依存性（例：ミカエリス・メンテンキネティクス）を有するモデルにおいて、本手法は信頼性高くパラメータを推定できるか？
• RQ5 履歴的事前分布メカニズムは、高次元かつマルチモーダルなパラメータ空間において、探索を効果的に行い、早期収束を防ぐのにどの程度寄与するか？

主な発見

• SBE-MCアルゴリズムは、初期事前分布が真のパラメータ値よりも桁数がはるかに広い場合でも、非線形ODEモデルのパラメータを効果的に推定でき、過剰に広い事前分布を必要としない。
• 本手法は、シミュレーションデータおよび実験データの両方において、効率的な収束を達成しており、10個の時間点と10個のリガンド濃度を有するGFP発現モデルにおいてもノイズに強く、ロバストであることが示された。
• 局所探索による加速は、低誤差解に到達するまでの反復回数を著しく削減し、標準的な進化的手法や純粋なモンテカルロ法と比較して収束速度が優れている。
• アルゴリズムはモデルとデータの乖離を最小化するパラメータ集合を信頼性高く特定でき、システム生物学におけるクロスバリデーションと予測モデリングを可能にした。
• 履歴的事前分布メカニズムにより、真のパラメータ範囲を事前に知らない状況下でも、複雑でマルチモーダルな誤差表面の効果的探索が可能となった。
• GFPモデルでは、複数のリプレイケートにおいて一貫したパラメータ推定が得られた（例：t=360における発光強度の平均 ~7910.6、標準偏差 ~387.8）、安定性と再現性が示された。