[论文解读] Looping in the Human Collaborative and Explainable Bayesian Optimization

Masaki Adachi, Brady Planden+6 more|arXiv (Cornell University)|Oct 26, 2023

Human-Automation Interaction and Safety被引用 5

一句话总结

本文提出协同可解释贝叶斯优化（CoExBO），一种通过成对比较整合用户偏好以及基于Shapley值的解释来增强信任与性能的人机协同框架。CoExBO 即使在对抗性人类输入下也能保证收敛，在锂离子电池材料设计中相比基线方法展现出更优的收敛性与选择准确性。

ABSTRACT

Like many optimizers, Bayesian optimization often falls short of gaining user trust due to opacity. While attempts have been made to develop human-centric optimizers, they typically assume user knowledge is well-specified and error-free, employing users mainly as supervisors of the optimization process. We relax these assumptions and propose a more balanced human-AI partnership with our Collaborative and Explainable Bayesian Optimization (CoExBO) framework. Instead of explicitly requiring a user to provide a knowledge model, CoExBO employs preference learning to seamlessly integrate human insights into the optimization, resulting in algorithmic suggestions that resonate with user preference. CoExBO explains its candidate selection every iteration to foster trust, empowering users with a clearer grasp of the optimization. Furthermore, CoExBO offers a no-harm guarantee, allowing users to make mistakes; even with extreme adversarial interventions, the algorithm converges asymptotically to a vanilla Bayesian optimization. We validate CoExBO's efficacy through human-AI teaming experiments in lithium-ion battery design, highlighting substantial improvements over conventional methods. Code is available https://github.com/ma921/CoExBO.

研究动机与目标

• 解决由于贝叶斯优化的不透明性与黑箱特性导致的用户信任缺失问题。
• 实现在高维复杂领域（如材料科学）中无需显式知识建模的人机洞察无缝整合。
• 通过无害收敛保证，确保对人类错误或对抗性干预的鲁棒性。
• 通过结合人类偏好判断与算法推理，利用可解释人工智能技术提升优化效率。
• 在实际应用中验证该框架，特别是在人类专业知识与昂贵实验并存的锂离子电池电解质设计中。

提出的方法

• CoExBO 通过成对比较进行偏好学习，隐式捕捉人类偏好，而无需用户定义显式模型。
• 采用 Shapley 值解释每个特征对获取函数、预测均值和不确定性的贡献，提升用户可解释性。
• 该框架维护一个代理模型和获取函数，候选选择由贝叶斯优化与人类反馈共同引导。
• 无害收敛保证确保即使在人类选择错误或具有对抗性时，算法仍渐近收敛至标准贝叶斯优化性能。
• 系统通过空间可视化与特征重要性解释，动态展示代理模型、不确定性与偏好模型，以支持决策。
• 人类反馈通过迭代式成对候选选择收集，并利用概率置信度估计进行事后选择准确性评估。

实验结果

研究问题

• RQ1 贝叶斯优化框架能否在无需显式建模用户知识的情况下，有效整合人类偏好？
• RQ2 通过 Shapley 值实现的可解释性在人机协同优化中如何提升用户信任与选择准确性？
• RQ3 人类错误或对抗性干预在多大程度上会降低优化性能？无害保证是否能维持收敛性？
• RQ4 通过成对比较整合人类反馈是否能比标准贝叶斯优化在实际任务中实现更快收敛？
• RQ5 解释功能的引入如何影响人类决策的开销与随时间推移的选择一致性？

主要发现

• 在锂离子电池电解质设计任务中，CoExBO 相较于基线贝叶斯优化与人工引导方法，实现了显著更快的收敛速度。
• 在提供解释的情况下，选择准确性在迭代过程中保持稳定；而未提供解释时，准确性在后期阶段显著波动，尤其是在候选样本相似时。
• 解释与候选生成组件带来的开销与人类选择时间相比可忽略不计，表明其具备实际可行性。
• 即使在对抗性人类选择下，CoExBO 仍保持渐近收敛至标准贝叶斯优化性能，验证了无害保证的有效性。
• 使用 Shapley 值进行解释使用户能够区分高度相似的候选样本，从而在优化后期提升决策信心。
• 在 EC-DMC-EMC-LiPF6 与 MA-DMC-EMC-LiPF6 系统的真实实验中，CoExBO 在收敛速度与鲁棒性方面均优于标准 BO 与 batchUCB。