[论文解读] Squeeze-and-Breathe Evolutionary Monte Carlo Optimisation with Local Search Acceleration and its application to parameter fitting

Mariano Beguerisse-Díaz, Baojun Wang+2 more|arXiv (Cornell University)|Jul 14, 2011

Advanced Multi-Objective Optimization Algorithms被引用 4

一句话总结

本文提出了一种新颖的压缩与呼吸进化蒙特卡罗（Squeeze-and-Breathe Evolutionary Monte Carlo, SBE-MC）优化算法，该算法融合了进化策略、序贯蒙特卡罗方法和局部搜索，以高效拟合非线性生物模型中的参数。通过在迭代过程中利用局部优化和基于历史先验的自适应重采样，逐步优化参数分布，该方法在参数范围未知或数量级跨度较大时仍能实现稳健收敛，相较于标准启发式方法，在复杂、噪声大且高维的生物参数估计问题中表现更优。

ABSTRACT

Motivation: Estimating parameters from data is a key stage of the modelling process, particularly in biological systems where many parameters need to be estimated from sparse and noisy data sets. Over the years, a variety of heuristics have been proposed to solve this complex optimisation problem, with good results in some cases yet with limitations in the biological setting. Results: In this work, we develop an algorithm for model parameter fitting that combines ideas from evolutionary algorithms, sequential Monte Carlo and direct search optimisation. Our method performs well even when the order of magnitude and/or the range of the parameters is unknown. The method refines iteratively a sequence of parameter distributions through local optimisation combined with partial resampling from a historical prior defined over the support of all previous iterations. We exemplify our method with biological models using both simulated and real experimental data and estimate the parameters efficiently even in the absence of a priori knowledge about the parameters.

研究动机与目标

• 解决在数据稀疏、噪声大且参数数量级未知的非线性生物模型中进行参数估计的挑战。
• 克服传统优化方法在系统生物学中常见的局限性，如陷入局部极小值、计算成本高或对准确先验的依赖。
• 开发一种无需参数范围或初始分布先验知识的稳健、全局收敛方法。
• 在具有非线性参数依赖关系的常微分方程模型中，实现高效可靠的参数拟合。
• 通过支持预测建模、模型选择和实验设计指导，实现建模与实验的闭环。

提出的方法

• 该方法采用迭代框架，交替执行‘压缩’（局部优化）和‘呼吸’（基于历史先验的重采样）步骤，以优化参数分布。
• 结合进化算法进行全局探索，同时利用局部搜索加速向低误差参数集的收敛。
• 历史先验在迭代过程中动态更新，捕捉所有先前采样参数集的支持，以指导未来的探索。
• 应用序贯蒙特卡罗原理，通过加权重采样将先验分布映射到后验分布，聚焦于低误差区域。
• 通过基于仿真的误差评估避免显式计算代价函数，使其适用于无解析解的模型。
• 参数更新由突变、选择和局部精炼的组合驱动，确保多样性与收敛性并存。

实验结果

研究问题

• RQ1 结合进化、蒙特卡罗和局部搜索策略的混合优化框架，能否提升在数据有限的非线性生物模型中的参数拟合性能？
• RQ2 当真实参数值位于初始先验支持范围之外时，特别是当数量级未知时，该方法表现如何？
• RQ3 与标准进化或纯蒙特卡罗方法相比，局部搜索加速在多大程度上提升了收敛速度？
• RQ4 该方法能否在无需线性假设或显式代价函数的情况下，可靠估计具有非线性参数依赖关系（如米氏动力学）的模型参数？
• RQ5 历史先验机制在高维、多峰参数空间中如何增强探索能力并防止过早收敛？

主要发现

• SBE-MC算法即使在初始先验范围远大于真实参数值数量级的情况下，仍能成功估计非线性ODE模型中的参数，避免了对过于宽泛先验的依赖。
• 该方法在模拟和真实实验数据中均实现了高效收敛，包括一个包含10个时间点和10种配体浓度的GFP表达模型，表现出对噪声的鲁棒性。
• 局部搜索加速显著减少了达到低误差解所需的迭代次数，在收敛速度上优于标准进化或纯蒙特卡罗方法。
• 该算法能可靠识别最小化模型与数据差异的参数集，支持系统生物学中的交叉验证和预测建模。
• 历史先验机制使复杂、多峰的误差曲面得以有效探索，且无需了解真实参数范围。
• 在GFP模型中，该方法在多次重复实验中实现了稳定的参数估计（例如，t=360时荧光测量的均值~7910.6，标准差~387.8），表明其稳定性和可重复性。