[论文解读] Uncertainty Quantification 360: A Holistic Toolkit for Quantifying and Communicating the Uncertainty of AI

Soumya Ghosh, Q. Vera Liao+5 more|arXiv (Cornell University)|Jun 2, 2021

Gaussian Processes and Bayesian Inference参考文献 19被引用 13

一句话总结

本文介绍了 UQ360，这是一个开源的 Python 工具包，提供了一个全面、与 scikit-learn 兼容的框架，用于量化、评估、改进和沟通人工智能模型中的不确定性。它整合了多种不确定性量化（UQ）算法、校准度量指标、模型改进技术以及基于心理学的沟通策略，以在整个人工智能开发生命周期中提升可信度和可靠性。

ABSTRACT

In this paper, we describe an open source Python toolkit named Uncertainty Quantification 360 (UQ360) for the uncertainty quantification of AI models. The goal of this toolkit is twofold: first, to provide a broad range of capabilities to streamline as well as foster the common practices of quantifying, evaluating, improving, and communicating uncertainty in the AI application development lifecycle; second, to encourage further exploration of UQ's connections to other pillars of trustworthy AI such as fairness and transparency through the dissemination of latest research and education materials. Beyond the Python package (\url{https://github.com/IBM/UQ360}), we have developed an interactive experience (\url{http://uq360.mybluemix.net}) and guidance materials as educational tools to aid researchers and developers in producing and communicating high-quality uncertainties in an effective manner.

研究动机与目标

• 将不确定性量化系统性地整合到从数据收集到推理的整个人工智能开发生命周期中。
• 提供一个统一且可扩展的工具包，支持内在和外在不确定性估计方法。
• 通过校准度量指标和事后改进技术（如等渗回归和 UCC 校准）提升不确定性估计的可靠性。
• 基于心理学和人机交互（HCI）中以人为中心的设计原则，指导从业者有效进行不确定性沟通。
• 通过整合研究、教育和开源工具开发，推动可信人工智能的实践社群建设。

提出的方法

• 该工具包实现了十余种 UQ 算法，包括贝叶斯神经网络、高斯过程、分位数回归，以及用于事后不确定性估计的元模型。
• 它同时支持内在方法（如使用马蹄先验的 BNN）和外在方法（如黑箱元模型），以从预训练模型中生成不确定性。
• UQ360 提供与 scikit-learn 兼容的接口，支持与现有机器学习工作流无缝集成，包括用于超参数调优的 GridSearchCV。
• 它包含标准度量指标（如期望校准误差（ECE）、预测区间覆盖概率（PICP）和预测区间宽度（MPIW）），以及新颖工具（如不确定性特征曲线（UCC））用于校准评估。
• 该工具包支持多种沟通格式——数值范围、可视化置信区间、密度图和分位数点图——其设计基于关于用户理解能力的心理学研究。
• 它提供 Jupyter 笔记本教程和交互式网页界面（uq360.mybluemix.net），以展示在医疗和金融等现实场景中的应用。

实验结果

研究问题

• RQ1 如何系统性地将不确定性量化整合到人工智能开发的全生命周期中？
• RQ2 哪些 UQ 算法与评估度量指标的组合最能支持在多样化机器学习任务中实现可靠的不确定性估计？
• RQ3 事后不确定性校准技术如何提升来自预训练模型的不确定性估计的可靠性？
• RQ4 基于认知科学和人机交互原理，哪些沟通策略最能有效向最终用户传达不确定性？
• RQ5 如何通过统一且可扩展的工具包加速可信和负责任的人工智能创新？

主要发现

• UQ360 允许开发人员通过元模型（如为梯度提升回归器生成预测区间）将标准 scikit-learn 估计器扩展为具备不确定性预测能力。
• 该工具包支持通过 UQ 友好的度量指标（如预测区间覆盖概率（PICP））进行模型选择，这些指标可集成到 GridSearchCV 中，以优化不确定性质量。
• UQ360 通过不确定性特征曲线（UCC）实现了对操作点无关的新型校准评估，提升了不确定性评估的稳健性。
• 事后校准技术（如 UCC 校准和等渗回归）显著改善了不确定性校准效果，尤其对输出校准性差的模型效果明显。
• 该工具包的沟通工具（包括分位数点图和置信区间等可视化手段）旨在增强用户对人工智能预测的理解与信任。
• 将心理学指导融入不确定性沟通，确保不确定性估计不仅准确，而且能被最终用户有效感知。