[论文解读] Adaptive Gaussian Copula ABC

Yanzhi Chen, Michael U. Gutmann|arXiv (Cornell University)|Feb 27, 2019

Target Tracking and Data Fusion in Sensor Networks被引用 8

一句话总结

该论文提出了一种自适应高斯配克函数ABC（AGC-ABC），这是一种新型ABC算法，通过首先利用序列采样学习一个同质的辅助分布，然后使用高斯配克函数对参数与摘要统计量之间的依赖关系进行建模，将序列ABC与基于回归的ABC相结合。该方法在小样本模拟预算下表现出更优的准确性和效率，在合成与真实世界的推断任务中优于现有方法。

ABSTRACT

Approximate Bayesian computation (ABC) is a set of techniques for Bayesian inference when the likelihood is intractable but sampling from the model is possible. This work presents a simple yet effective ABC algorithm based on the combination of two classical ABC approaches --- regression ABC and sequential ABC. The key idea is that rather than learning the posterior directly, we first target another auxiliary distribution that can be learned accurately by existing methods, through which we then subsequently learn the desired posterior with the help of a Gaussian copula. During this process, the complexity of the model changes adaptively according to the data at hand. Experiments on a synthetic dataset as well as three real-world inference tasks demonstrates that the proposed method is fast, accurate, and easy to use.

研究动机与目标

• 解决在似然函数不可计算但可进行模拟的情况下，近似贝叶斯计算（ABC）中的准确率-效率权衡问题。
• 通过自适应采样过程改进回归ABC中对残差同质性的假设，克服其局限性。
• 开发一种方法，利用序列ABC提升训练数据质量，结合回归ABC实现高效的后验近似，并使用高斯配克函数建模依赖关系。
• 在高维或复杂模型中实现高准确率，同时最小化模拟预算，尤其在标准ABC失效的情况下。

提出的方法

• 该方法首先使用序列ABC迭代优化后验近似，生成更符合回归ABC所需同质性假设的训练数据。
• 使用高斯配克函数对参数与摘要统计量的联合分布进行建模，将边缘分布与依赖结构解耦。
• 配克函数模型能够捕捉参数与摘要统计量之间的条件依赖关系，即使真实残差分布具有异质性，也能实现准确的残差建模。
• 在配克函数变换后的变量上应用回归，学习从摘要统计量到参数的映射，通过调整样本以逼近真实后验分布。
• 该算法根据数据自适应调整模型复杂度，随着模拟次数增加，逐步提升效率与准确率。
• 最终的后验近似通过将学习到的基于配克函数的回归模型反变换回原始参数空间获得。

实验结果

研究问题

• RQ1 将序列ABC与回归ABC相结合，是否能提升在似然不可知设置下的ABC推断准确率与效率？
• RQ2 回归ABC中的同质性假设如何影响后验估计？是否可通过自适应采样加以缓解？
• RQ3 高斯配克函数模型能否有效捕捉ABC中参数与摘要统计量之间的复杂依赖关系，尤其是在真实残差分布异质的情况下？
• RQ4 所提出的方法是否在性能上优于现有ABC方法，特别是在模拟预算有限的情况下？
• RQ5 基于配克函数的变换如何提升ABC中后验近似在鲁棒性与准确率方面的表现？

主要发现

• 在MA(2)模型中，AGC-ABC在真实与估计残差分布之间的JSD（0.004–0.010）显著低于REG-ABC与SNP-ABC，尤其在低分位数（0.1%–10%）处表现更优。
• 在Lotka-Volterra捕食者-猎物模型中，AGC-ABC在小模拟预算下表现出明显性能优势，JSD值分别为0.089（0.1%）与0.194（25%），表明残差对摘要统计量存在强依赖性。
• 在残差分布非同质的情况下，AGC-ABC在后验准确率方面优于回归ABC与SNP-ABC，该结论得到轮廓图与JSD指标的验证。
• AGC-ABC在模拟次数较少时仍能保持高准确率，展现出在低预算推断场景下的高效性。
• 使用高斯配克函数能够有效建模复杂且异质的残差结构，相比混合模型或简单回归模型，偏差更小。
• 实证结果表明，该方法在多种模型中均表现稳健，涵盖合成问题与流行病学、生态学及系统生物学等真实世界问题。