[论文解读] A Coupon-Collector Model of Machine-Aided Discovery

Aditya Vempaty, Lav R. Varshney+1 more|arXiv (Cornell University)|Aug 13, 2017

Advanced Database Systems and Queries参考文献 13被引用 3

一句话总结

本文提出了一种广义优惠券收集者模型，以解释科学发现中的逻辑斯蒂增长现象，其中探索者使用带有噪声的技术从一组元素中发现新颖且高质量的元素。通过将发现建模为一种带有质量加权、带噪声的观测的随机过程，作者推导出知识库规模和质量的闭式表达式，表明随机性和技术支持可加速发现过程，并复现了在Eurekometrics中观察到的经验性逻辑斯蒂曲线。

ABSTRACT

Empirical studies of scientific discovery---so-called Eurekometrics---have indicated that the output of exploration proceeds as a logistic growth curve. Although logistic functions are prevalent in explaining population growth that is resource-limited to a given carrying capacity, their derivation do not apply to discovery processes. This paper develops a generative model for logistic \emph{knowledge discovery} using a novel extension of coupon collection, where an explorer interested in discovering all unknown elements of a set is supported by technology that can respond to queries. This discovery process is parameterized by the novelty and quality of the set of discovered elements at every time step, and randomness is demonstrated to improve performance. Simulation results provide further intuition on the discovery process.

研究动机与目标

• 开发一个生成模型，以解释在科学发现过程中观察到的经验性逻辑斯蒂增长曲线。
• 通过引入带噪声的技术支持和元素质量，扩展经典优惠券收集者问题。
• 量化在知识发现过程中，所发现元素的新颖性和质量随时间的演变。
• 分析先验知识、概率分布和噪声对发现速度与性能的影响。
• 将理论发现动力学与现实世界中Eurekometrics观察到的饱和现象和指数增长相联系。

提出的方法

• 将发现过程建模为广义优惠券收集者问题，其中元素根据先验概率质量函数（pmf）p抽取。
• 技术提供带噪声的观测x_t^M，探索者使用贝叶斯推断更新其知识集Θ_t，以估计真实元素θ_t。
• 在时间t的知识库规模定义为N_t = |Θ_t|，用于追踪已发现的不同元素数量。
• 通过质量向量q对已发现元素的质量进行建模，使用k阶质量-流行度函数D^k计算期望质量Q_T。
• 推导出期望质量的闭式表达式：E[Q_T|Θ_0] = Q_0 - Σ_{k=1}^T (-1)^k * C(T,k) * D^k_Θ₀(p̃, q)。
• 模拟和解析推导表明，当先验pmf为均匀分布且存在噪声时，发现过程呈现逻辑斯蒂曲线。

实验结果

研究问题

• RQ1 如何通过发现的生成模型复现科学产出中观察到的经验性逻辑斯蒂增长曲线？
• RQ2 带噪声的技术在加速或塑造发现过程方面发挥什么作用？
• RQ3 元素的质量和概率分布如何影响知识积累的速度与轨迹？
• RQ4 初始已知元素集合Θ_0以何种方式影响发现效率？
• RQ5 元素质量与发现概率之间的对齐程度如何影响所发现知识的期望值？

主要发现

• 该模型复现了科学发现的经验性逻辑斯蒂增长曲线，已发现元素的比例ρ_T^emp ≈ 1 - A e^{-r₀T}与推导出的已发现元素期望数量表达式一致。
• 当先验pmf为均匀分布且初始知识集为任意时，发现性能达到最大，表明均匀先验分布可优化发现速度。
• T次迭代后，已发现元素的期望质量为E[Q_T|Θ_0] = Q_0 - Σ_{k=1}^T (-1)^k * C(T,k) * D^k_Θ₀(p̃, q)，其中D^k为k阶质量-流行度函数。
• 当质量向量q与概率向量p对齐时，已发现元素的期望质量显著提高；当反向对齐时，发现结果质量较低。
• 模拟结果证实，发现过程中的随机性，尤其是在带噪声技术下，通过促进对高概率元素的快速探索，可提升性能。
• 该模型表明，随着时间推移，发现变得越来越困难，因为稀有和新颖的元素更难被定位，这与Eurekometrics的观察一致。