[论文解读] Deep Generative Symbolic Regression with Monte-Carlo-Tree-Search

Pierre-Alexandre Kamienny, Guillaume Lample+2 more|arXiv (Cornell University)|Feb 22, 2023

Evolutionary Algorithms and Applications被引用 5

一句话总结

该论文提出DGSR-MCTS，一种新颖的符号回归方法，结合预训练的深度生成模型与蒙特卡洛树搜索（MCTS），在SRBench基准上实现了最先进性能。通过使用在合成数据上预训练的上下文感知神经突变策略，并在搜索过程中在线微调，该方法在探索与利用之间取得平衡，以更少的评估次数获得高度准确且简洁的表达式，优于传统GP方法。

ABSTRACT

Symbolic regression (SR) is the problem of learning a symbolic expression from numerical data. Recently, deep neural models trained on procedurally-generated synthetic datasets showed competitive performance compared to more classical Genetic Programming (GP) algorithms. Unlike their GP counterparts, these neural approaches are trained to generate expressions from datasets given as context. This allows them to produce accurate expressions in a single forward pass at test time. However, they usually do not benefit from search abilities, which result in low performance compared to GP on out-of-distribution datasets. In this paper, we propose a novel method which provides the best of both worlds, based on a Monte-Carlo Tree Search procedure using a context-aware neural mutation model, which is initially pre-trained to learn promising mutations, and further refined from successful experiences in an online fashion. The approach demonstrates state-of-the-art performance on the well-known exttt{SRBench} benchmark.

研究动机与目标

• 为克服现有深度生成符号回归（DGSR）方法缺乏搜索能力且在分布外数据上表现不佳的局限性。
• 将预训练DGSR的速度与归纳偏置，与蒙特卡洛树搜索（MCTS）的搜索效率相结合，以提升泛化能力。
• 开发一种方法，同时利用合成数据上的预训练与搜索过程中的在线微调，以适应新数据集。
• 在真实世界与合成基准上，相较于经典GP与先前DGSR方法，实现更优的准确率-复杂度权衡。

提出的方法

• 该方法采用神经突变策略，先在合成数据集上预训练以学习有前景的表达式突变，随后在MCTS搜索过程中通过成功搜索试验的反馈在线优化。
• 一个判别网络，初始化于合成数据，通过使用类似UCB1的置信上界，平衡探索（低访问节点）与利用（高性能节点），指导MCTS中的选择策略。
• MCTS通过在现有表达式上应用学习到的突变来扩展搜索树，每个节点代表一个符号表达式，边代表有效的突变。
• 突变策略与判别网络在多个数据集上以在线方式联合微调，实现迁移学习并提升对新数据分布的适应能力。
• 该方法采用基于Transformer的架构，将数据集作为输入标记处理，实现基于数据分布上下文感知的突变生成。
• 该方法在SRBench基准上进行评估，包括真实世界的黑箱数据集与Feynman数据集，以R²分数与表达式大小作为关键指标。

实验结果

研究问题

• RQ1 预训练的深度生成模型能否与MCTS有效结合，以提升在分布外数据上的符号回归性能？
• RQ2 在搜索过程中对突变策略与判别网络进行在线微调，是否能带来优于静态预训练的泛化性能？
• RQ3 所提出的DGSR-MCTS方法在准确率与表达式简洁性方面，相较于最先进GP与DGSR基线方法表现如何？
• RQ4 使用合成数据集进行预训练以及同时进行多数据集微调，对下游性能有何影响？

主要发现

• DGSR-MCTS在SRBench基准上实现最先进性能，在黑箱与Feynman数据集上均位列Pareto前沿（排名0）。
• 在黑箱数据集上，DGSR-MCTS实现测试R²为0.846，表达式大小为41，优于E2E（R² 0.797，大小61）及其他基线方法。
• 在Feynman数据集上，DGSR-MCTS在87%的问题中实现R² ≥ 0.99，平均表达式大小为33，显著优于E2E（R² ≥ 0.99在80%的问题中，大小121）。
• 消融实验表明，使用合成数据集进行预训练并同时进行多数据集微调可获得最佳性能，黑箱数据集R² = 0.846，Feynman数据集R² = 0.796。
• 预训练与在线微调的结合至关重要：若任一组件被省略，性能将显著下降。
• 该方法在准确率-复杂度权衡方面表现卓越，尤其在真实世界与复杂符号问题上优于先前的DGSR方法。