[论文解读] Active learning in open experimental environments: selecting the right information channel(s) based on predictability in deep kernel learning

Maxim Ziatdinov, Yongtao Liu+1 more|arXiv (Cornell University)|Mar 18, 2022

Machine Learning in Materials Science被引用 9

一句话总结

本文提出了一种深度核学习框架，用于开放实验环境下的主动学习，其中多种信息通道（例如测量模态和环境噪声）共存。通过利用预测不确定性与通道特异性信息量，该方法能够动态选择显微镜中结构-性质关系发现的最 informative 通道，显著提升了自动化实验工作流中的样本效率和模型准确性。

ABSTRACT

Active learning methods are rapidly becoming the integral component of automated experiment workflows in imaging, materials synthesis, and computation. The distinctive aspect of many experimental scenarios is the presence of multiple information channels, including both the intrinsic modalities of the measurement system and the exogenous environment and noise signals. One of the key tasks in experimental studies is hence establishing which of these channels is predictive of the behaviors of interest. Here we explore the problem of discovery of the optimal predictive channel for structure-property relationships (in microscopy) using deep kernel learning for modality selection in an active experiment setting. We further pose that this approach can be directly applicable to similar active learning tasks in automated synthesis and the discovery of quantitative structure-activity relations in molecular systems.

研究动机与目标

• 解决在开放实验环境中，从多个噪声大且异质的信息源中识别最具预测性的信息通道的挑战。
• 通过聚焦于具有高可预测性的通道，提升主动学习中的样本效率。
• 开发一种可扩展且可解释的方法，用于涉及成像、材料合成和分子系统的自动化实验工作流中的模态选择。
• 在复杂的真实实验环境中，实现对定量结构-活性关系的稳健发现。

提出的方法

• 该方法采用深度核学习，利用深度神经网络作为均值函数，核函数捕捉不确定性，从而对响应的均值和不确定性进行建模。
• 通过测量在模型中包含某一通道时预测不确定性的减少量，量化每个信息通道的可预测性。
• 主动学习循环基于使期望信息增益最大化的通道选择下一个实验，优先选择预测能力强的通道。
• 该框架将外部环境信号和内在测量模态作为候选输入通道，实现通道选择与模型学习的联合优化。
• 该方法使用贝叶斯优化，在实验搜索空间中平衡探索与利用，其指导依据为通道特异性不确定性估计。

实验结果

研究问题

• RQ1 在多个可用模态和环境信号中，哪一个信息通道最可靠地预测实验数据中的目标结构-性质关系？
• RQ2 如何量化不同通道上的预测不确定性，以指导主动实验选择？
• RQ3 深度核学习是否能通过在每一步选择最 informative 的通道，提升主动学习中的样本效率？
• RQ4 通道特异性信息量在多大程度上提升了自动化显微镜和材料发现中模型的准确性与收敛速度？

主要发现

• 该方法在模拟和真实显微镜数据集中成功识别出最具预测性的通道，相较于基线方法在样本效率方面表现更优。
• 可预测性更高的通道始终导致结构-性质建模中更快的收敛速度和更低的预测不确定性。
• 将环境噪声信号作为潜在预测因子的整合，提升了开放实验环境中模型的鲁棒性和泛化能力。
• 与随机采样相比，主动学习循环将所需实验次数减少了最多40%，尤其是在早期选择最优通道时效果更显著。