[论文解读] Simple trees in complex forests: Growing Take The Best by Approximate Bayesian Computation

Eric Schulz, Maarten Speekenbrink+1 more|arXiv (Cornell University)|May 5, 2016

Markov Chains and Monte Carlo Methods参考文献 18被引用 4

一句话总结

该论文提出ABC-TTB，一种新颖算法，利用近似贝叶斯计算（ABC）从概率性更新的构建模块（如线索顺序和方向）中学习取其最优（TTB）启发式策略，通过模拟和评估候选决策树实现。该方法在合成数据上成功恢复TTB策略，对线索重要性的推断准确，优于标准TTB方法，并能明确实现计算成本与预测准确率之间的权衡。

ABSTRACT

How can heuristic strategies emerge from smaller building blocks? We propose Approximate Bayesian Computation as a computational solution to this problem. As a first proof of concept, we demonstrate how a heuristic decision strategy such as Take The Best (TTB) can be learned from smaller, probabilistically updated building blocks. Based on a self-reinforcing sampling scheme, different building blocks are combined and, over time, tree-like non-compensatory heuristics emerge. This new algorithm, coined Approximately Bayesian Computed Take The Best (ABC-TTB), is able to recover a data set that was generated by TTB, leads to sensible inferences about cue importance and cue directions, can outperform traditional TTB, and allows to trade-off performance and computational effort explicitly.

研究动机与目标

• 解决启发式策略（如取其最优，TTB）如何从更小的、概率性更新的构建模块中涌现的问题。
• 开发一种计算机制，使TTB能够从经验中动态学习，而非预先指定。
• 建模构成TTB的搜索规则、停止规则和决策规则的自适应学习过程。
• 在启发式学习中实现计算成本与预测性能之间显式的权衡。
• 提供一种心理上合理的、受贝叶斯启发的启发式策略形成学习机制。

提出的方法

• ABC-TTB使用近似贝叶斯计算（ABC）通过模拟基于线索的预测并将其与观测数据进行比较，来评估候选决策树。
• 通过从线索顺序和线索方向的先验分布中抽样，生成候选模型（树），形成TTB的变体。
• 若模拟数据的摘要统计量（如正确预测的均值）与真实数据的摘要统计量在容差ε范围内，则接受该提议。
• 接受标准使用距离度量δ（如欧几里得距离）比较模拟与观测数据摘要之间的差异，其中ε和φ（采样数据比例）为可调参数。
• 该算法采用自增强抽样方案，使成功树更可能被重复使用并随时间不断优化。
• 通过调节ε（容差）和φ（采样比例），显式平衡性能与计算成本，从而控制准确率与速度。

实验结果

研究问题

• RQ1 计算模型能否使用近似贝叶斯推断，从基本的概率构建模块中学习取其最优启发式策略？
• RQ2 当数据由TTB生成时，所提出的ABC-TTB方法是否能恢复原始TTB策略？
• RQ3 ABC-TTB能否在真实世界数据中产生准确且可解释的线索重要性与线索方向推断？
• RQ4 ABC-TTB在预测准确率方面与传统TTB及其他模型相比表现如何？
• RQ5 ABC-TTB在多大程度上能显式实现计算成本与预测性能之间的权衡？

主要发现

• 当数据由TTB生成时，ABC-TTB成功恢复了取其最优启发式策略，准确重构了线索顺序与方向。
• 即使在真实世界数据集中，该模型也能对线索重要性和线索方向产生合理推断，表明其对潜在结构具有稳健的学习能力。
• ABC-TTB在预测准确率上优于传统TTB及其他模型，通过参数调优，性能提升最高达20%。
• 计算成本与性能之间存在明确权衡：增加ε和φ会导致所需提议样本数呈超指数增长，而性能增益随时间递减。
• 每生成一个提议的正确预测比例呈现递减回报，证实更高准确率需要指数级增长的计算量。
• 通过调节ε和φ，该方法可显式控制性能-成本权衡，为准确率与效率的平衡提供实用工具。