[论文解读] Achieving Robustness to Aleatoric Uncertainty with Heteroscedastic Bayesian Optimisation

Ryan‐Rhys Griffiths, Alexander A. Aldrick+3 more|arXiv (Cornell University)|Oct 17, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 79被引用 30

一句话总结

本文提出了一种异方差贝叶斯优化框架，通过使用异方差高斯过程代理模型，显式建模并最小化输入相关的偶然不确定性，并引入两种新型采集函数：异方差增强期望改进（HAEI）和偶然噪声惩罚期望改进（ANPEI）。该方法在合成数据集和真实世界科学数据集上均优于同方差贝叶斯优化和随机采样，通过显式惩罚高噪声区域，提升了材料发现和药物发现应用中的鲁棒性。

ABSTRACT

Bayesian optimisation is a sample-efficient search methodology that holds great promise for accelerating drug and materials discovery programs. A frequently-overlooked modelling consideration in Bayesian optimisation strategies however, is the representation of heteroscedastic aleatoric uncertainty. In many practical applications it is desirable to identify inputs with low aleatoric noise, an example of which might be a material composition which consistently displays robust properties in response to a noisy fabrication process. In this paper, we propose a heteroscedastic Bayesian optimisation scheme capable of representing and minimising aleatoric noise across the input space. Our scheme employs a heteroscedastic Gaussian process (GP) surrogate model in conjunction with two straightforward adaptations of existing acquisition functions. First, we extend the augmented expected improvement (AEI) heuristic to the heteroscedastic setting and second, we introduce the aleatoric noise-penalised expected improvement (ANPEI) heuristic. Both methodologies are capable of penalising aleatoric noise in the suggestions and yield improved performance relative to homoscedastic Bayesian optimisation and random sampling on toy problems as well as on two real-world scientific datasets. Code is available at: \url{https://github.com/Ryan-Rhys/Heteroscedastic-BO}

研究动机与目标

• 解决在真实世界科学应用中，面对异方差偶然不确定性时贝叶斯优化缺乏鲁棒性的问题。
• 开发一种能显式捕捉设计空间中输入相关噪声的代理模型。
• 提出能对高偶然噪声区域进行惩罚的采集函数，以优先选择鲁棒且低噪声的解决方案。
• 在具有异方差噪声的合成数据集和真实世界数据集上，证明该方法优于同方差贝叶斯优化和随机采样。
• 提供开源实现，以支持可复现性，并推动其在科学优化中的广泛应用。

提出的方法

• 采用异方差高斯过程（GP）代理模型，联合建模黑箱函数的均值与方差。
• 将增强期望改进（AEI）启发式方法拓展至异方差设置，得到异方差增强期望改进（HAEI）采集函数。
• 提出偶然噪声惩罚期望改进（ANPEI）采集函数，显式惩罚预测噪声方差较高的区域。
• 利用异方差GP的预测方差，引导探索向输入空间中低噪声、高性能区域进行。
• 采用变分推理实现异方差GP的近似后验推断，支持可扩展且可微分的优化。
• 采用两阶段优化策略：首先优化采集函数，然后在选定点上评估黑箱函数。

实验结果

研究问题

• RQ1 异方差GP代理模型是否能在输入空间中偶然噪声变化时，提升贝叶斯优化的鲁棒性？
• RQ2 ANPEI采集函数是否在识别低噪声、高性能输入方面优于同方差贝叶斯优化和随机采样？
• RQ3 在已知具有异方差噪声的真实世界科学数据集（如FreeSolv和土壤磷数据集）上，该方法表现如何？
• RQ4 当真实噪声结构未知或被错误表征时，使用异方差代理模型会产生何种影响？
• RQ5 异方差建模带来的性能提升是否在不同噪声环境下均具有鲁棒性，包括同方差和无噪声设置？

主要发现

• ANPEI采集函数在合成异方差问题上显著优于同方差贝叶斯优化和随机采样，能更快收敛至低噪声、高性能区域。
• 在FreeSolv数据集上，所提方法成功识别出计算噪声更低的分子组成，提升了虚拟筛选的鲁棒性。
• 在土壤磷数据集上，异方差GP模型相比同方差模型更好地捕捉了输入相关的噪声，避免了在高噪声区域的过度自信。
• 消融研究显示，使用异方差代理模型在同方差或无噪声任务上不会降低性能，表明其对模型误设具有鲁棒性。
• GitHub上的开源实现支持可复现性，并促进了该方法在材料与药物发现流程中的应用。