[论文解读] Near-optimal Bayesian Active Learning with Correlated and Noisy Tests

Yuxin Chen, S. Hamed Hassani+1 more|arXiv (Cornell University)|May 24, 2016

Machine Learning and Algorithms参考文献 22被引用 6

一句话总结

本文提出 ECED，一种适用于具有相关性、噪声测试的近似最优贝叶斯主动学习算法。ECED 使用一种代理目标函数，以考虑测试之间的依赖关系，并利用自适应子模性来实现近似最优性能，即使在传统贪心方法因测试结果的条件依赖性和噪声而失效时亦然。

ABSTRACT

We consider the Bayesian active learning and experimental design problem, where the goal is to learn the value of some unknown target variable through a sequence of informative, noisy tests. In contrast to prior work, we focus on the challenging, yet practically relevant setting where test outcomes can be conditionally dependent given the hidden target variable. Under such assumptions, common heuristics, such as greedily performing tests that maximize the reduction in uncertainty of the target, often perform poorly. In this paper, we propose ECED, a novel, computationally efficient active learning algorithm, and prove strong theoretical guarantees that hold with correlated, noisy tests. Rather than directly optimizing the prediction error, at each step, ECED picks the test that maximizes the gain in a surrogate objective, which takes into account the dependencies between tests. Our analysis relies on an information-theoretic auxiliary function to track the progress of ECED, and utilizes adaptive submodularity to attain the near-optimal bound. We demonstrate strong empirical performance of ECED on two problem instances, including a Bayesian experimental design task intended to distinguish among economic theories of how people make risky decisions, and an active preference learning task via pairwise comparisons.

研究动机与目标

• 解决在条件依赖、噪声测试结果下贪心主动学习方法的局限性。
• 开发一种计算高效的算法，在测试相关性和噪声存在的情况下仍能实现近似最优性能。
• 为在具有现实复杂概率依赖关系的场景下提供主动学习的理论保证。
• 在真实世界实验设计与偏好学习任务中展示该方法的有效性。

提出的方法

• ECED 基于一种代理目标函数选择测试，该函数捕捉长期信息增益，并考虑测试间的依赖关系。
• 该算法使用基于信息论的辅助函数来追踪进展并分析噪声影响。
• 它应用自适应子模性的理论，以确保在测试结果相关且存在噪声时仍具有近似最优性。
• 该方法避免直接优化预测误差，而是最大化一个反映结构依赖关系的代理目标函数。
• ECED 专为具有独立噪声的二元测试设计，从而可建立性能的理论边界。
• 该框架通过理论分析和在经济理论歧视与偏好学习任务上的实证评估得到验证。

实验结果

研究问题

• RQ1 当测试结果在给定目标变量下条件依赖时，贝叶斯主动学习算法能否实现近似最优？
• RQ2 在存在噪声的情况下，考虑测试依赖关系的代理目标函数是否优于短视的信息增益最大化？
• RQ3 能否利用自适应子模性在噪声大、测试相关的情境下提供理论保证？
• RQ4 在真实世界的主动学习任务中，ECED 与 GBS 和不确定性采样等贪心基线方法相比表现如何？

主要发现

• 即使测试结果条件依赖且存在噪声，ECED 与最优策略相比仍能实现近似最优的期望成本。
• 在测试相关且存在噪声的情境下，该算法显著优于 GBS 和不确定性采样等贪心启发式方法。
• 在用于区分风险经济理论的贝叶斯实验设计任务中，ECED 展现出强劲的实证性能。
• 在成对比较偏好学习任务中，ECED 以更低的查询成本实现了与基线方法具有竞争力的结果。
• 理论分析表明，即使单个测试选择无法立即减少目标不确定性，ECED 仍能通过代理目标函数实现长期进展。
• 在最坏情况设置下，ECED 与次优策略之间的性能差距可达 Ω(n / log n)，凸显其优势。