[论文解读] Active learning for level set estimation under cost-dependent input uncertainty.

I. Yu, Masayuki Karasuyama+2 more|arXiv (Cornell University)|Sep 13, 2019

Machine Learning and Algorithms参考文献 25被引用 4

一句话总结

该论文提出了一种新颖的主动学习算法，用于在成本依赖型输入不确定性条件下进行水平集估计，其中可使用多种成本和精度各不相同的检测工具。通过战略性地选择输入位置和检测工具，在保持精度的同时最小化成本，该方法实现了理论收敛性，并在合成数据集和真实世界数据集上表现出优越性能。

ABSTRACT

As part of a quality control process in manufacturing it is often necessary to test whether all parts of a product satisfy a required property, with as few inspections as possible. When multiple inspection apparatuses with different costs and precision exist, it is desirable that testing can be carried out cost-effectively by properly controlling the trade-off between the costs and the precision. In this paper, we formulate this as a level set estimation (LSE) problem under cost-dependent input uncertainty - LSE being a type of active learning for estimating the level set, i.e., the subset of the input space in which an unknown function value is greater or smaller than a pre-determined threshold. Then, we propose a new algorithm for LSE under cost-dependent input uncertainty with theoretical convergence guarantee. We demonstrate the effectiveness of the proposed algorithm by applying it to synthetic and real datasets.

研究动机与目标

• 为通过最小化检测次数同时保持精度来应对制造业中成本效益质量控制的挑战。
• 对输入不确定性依赖于所用检测工具成本的检测过程进行建模。
• 将问题表述为在成本依赖不确定性下的主动学习水平集估计问题。
• 开发一种自适应选择输入位置和检测工具的算法，以优化成本-精度权衡。
• 为所提方法在水平集估计背景下的理论收敛性提供保证。

提出的方法

• 该方法将水平集估计表述为一个主动学习问题，其中感兴趣函数未知，必须通过选择性采样来学习。
• 引入一种成本依赖的不确定性模型，其中函数评估的精度取决于所选检测工具，每种工具具有不同的成本。
• 该算法使用一种采集函数，平衡探索（不确定性减少）与利用（针对水平集边界）的同时考虑工具成本。
• 它在每一步动态选择输入位置和检测工具，以最小化累积成本并提高估计精度。
• 通过证明随着评估次数增加，估计的水平集收敛到真实水平集，建立了理论收敛性。
• 该方法使用高斯过程代理模型来模拟未知函数并量化不确定性。

实验结果

研究问题

• RQ1 当存在多种成本和精度各不相同的检测工具时，如何高效估计未知函数的水平集？
• RQ2 在成本依赖不确定性下的主动学习中，何种采集策略能最优地平衡成本、不确定性与接近水平集边界的程度？
• RQ3 当输入不确定性依赖于检测工具选择时，水平集估计的理论收敛性能否得到保证？
• RQ4 与基线方法相比，所提方法在成本效率和估计精度方面表现如何？
• RQ5 在现实制造业场景中，成本-精度权衡的变化对水平集估计性能有何影响？

主要发现

• 所提算法相较于未考虑成本依赖不确定性基线方法，能更快收敛到真实水平集。
• 通过将工具成本整合到采集函数中，该方法在保持或提升估计精度的同时降低了总检测成本。
• 理论分析证实，随着评估次数增加，该算法收敛到真实水平集，确保了可靠性。
• 在合成数据集和真实数据集上的实证结果表明，该方法能有效平衡成本与精度，优于无成本感知的方法。
• 该方法在不同成本-精度权衡下表现出鲁棒性，适用于多样化的制造业检测场景。
• 通过代价感知采集函数整合多种检测工具，显著降低了成本，同时未牺牲估计质量。