[论文解读] Toward a general, scaleable framework for Bayesian teaching with applications to topic models

Baxter Eaves, Patrick Shafto|arXiv (Cornell University)|May 25, 2016

Topic Modeling参考文献 13被引用 4

一句话总结

本文提出了一种通用且可扩展的贝叶斯教学框架，利用伪边际采样和重要性采样来近似最优教学数据，以指导概率学习器。通过选择能更有效地引导推断朝向目标假设的数据，而非随机采样，该方法在小样本数据集上显著提升了学习效率，如在IMDb top 1000电影的电影梗概上进行主题建模应用所展示的那样。

ABSTRACT

Machines, not humans, are the world's dominant knowledge accumulators but humans remain the dominant decision makers. Interpreting and disseminating the knowledge accumulated by machines requires expertise, time, and is prone to failure. The problem of how best to convey accumulated knowledge from computers to humans is a critical bottleneck in the broader application of machine learning. We propose an approach based on human teaching where the problem is formalized as selecting a small subset of the data that will, with high probability, lead the human user to the correct inference. This approach, though successful for modeling human learning in simple laboratory experiments, has failed to achieve broader relevance due to challenges in formulating general and scalable algorithms. We propose general-purpose teaching via pseudo-marginal sampling and demonstrate the algorithm by teaching topic models. Simulation results show our sampling-based approach: effectively approximates the probability where ground-truth is possible via enumeration, results in data that are markedly different from those expected by random sampling, and speeds learning especially for small amounts of data. Application to movie synopsis data illustrates differences between teaching and random sampling for teaching distributions and specific topics, and demonstrates gains in scalability and applicability to real-world problems.

研究动机与目标

• 为解决机器学习中的瓶颈问题，即专家人类必须解释机器积累的知识。
• 开发一种通用、可扩展的教学框架，通过选择最优数据来引导概率学习器实现正确推断。
• 克服先前教学方法的局限性，这些方法要么局限于特定领域，要么在现实问题中计算上不可行。
• 通过基于采样的方法近似贝叶斯归一化常数，实现对主题模型的有效教学。
• 在真实数据（如IMDb top 1000电影的电影梗概）上展示方法的可扩展性和有效性。

提出的方法

• 该框架使用伪边际采样来近似边缘似然，这是贝叶斯教学中的关键组成部分，可实现对学习器后验分布的模拟。
• 采用重要性采样来高效估计教学概率，该概率量化了给定数据点使学习器推断出目标假设的可能性。
• 该方法将教学问题建模为优化学习器推断出正确假设的概率，以似然与边缘似然之比作为教学目标。
• 对于主题模型，该方法通过在潜在主题分配上积分，并在需要时对非目标主题进行边际化，来计算文档级数据的教学概率。
• 通过修改似然项以包含目标主题的指示函数，该框架支持对完整主题分布或部分主题的教学。
• 使用余弦距离作为启发式方法，通过优先选择与目标主题分布高度相似的文档来减少搜索空间。

实验结果

研究问题

• RQ1 能否开发一种在多种概率模型上均具备可扩展性和有效性的通用教学框架？
• RQ2 基于采样的近似方法在准确性和效率方面与精确枚举相比如何？
• RQ3 教学选择的数据在引导推断方面与随机采样数据相比，其差异程度如何？
• RQ4 该框架能否在数据有限的情况下，有效教学复杂模型（如LDA）中的特定主题？
• RQ5 教学概率与更简单的启发式方法（如与目标主题的余弦距离）之间是否存在相关性？

主要发现

• 当精确枚举可行时，基于采样的教学框架能有效近似真实教学概率，验证了其准确性。
• 教学数据与随机样本显著不同，表现出对能代表多个主题或与目标相关关键词的文档的战略性选择。
• 学习过程显著加速，尤其在样本数量较少时，表明该方法在低数据场景下具有高效性。
• 对于完整主题模型的最优教学梗概（'Brokeback Mountain'），其长度更长且更能代表多样化主题，与理论预期一致。
• 在教学'war'主题时，'Apocalypse Now'被识别为最优教学文档，尽管其在数据似然下并非最可能，凸显了该方法避免混淆替代项的能力。
• 对于'war'主题，余弦距离与教学概率之间存在强烈的负相关性（r = -0.93，p ≈ 0），表明余弦距离是识别高质量教学数据的有力代理指标。