[论文解读] HEPGAME and the Simplification of Expressions

Ben Ruijl, J.A.M. Vermaseren+2 more|arXiv (Cornell University)|May 25, 2014

Numerical Methods and Algorithms参考文献 21被引用 3

一句话总结

本文提出SA-UCT，一种改进的蒙特卡洛树搜索（MCTS）算法，通过动态递减的探索-利用参数，优化高能物理中大规模多变量多项式的Horner方案。该方法将数值积分时间减少至原来的1/24，同时通过将探索常数的有效范围扩大十余倍，显著提升了超参数调优的鲁棒性。

ABSTRACT

Advances in high energy physics have created the need to increase computational capacity. Project HEPGAME was composed to address this challenge. One of the issues is that numerical integration of expressions of current interest have millions of terms and takes weeks to compute. We have investigated ways to simplify these expressions, using Horner schemes and common subexpression elimination. Our approach applies MCTS, a search procedure that has been successful in AI. We use it to find near-optimal Horner schemes. Although MCTS finds better solutions, this approach gives rise to two further challenges. (1) MCTS (with UCT) introduces a constant, $C_p$ that governs the balance between exploration and exploitation. This constant has to be tuned manually. (2) There should be more guided exploration at the bottom of the tree, since the current approach reduces the quality of the solution towards the end of the expression. We investigate NMCS (Nested Monte Carlo Search) to address both issues, but find that NMCS is computationally unfeasible for our problem. Then, we modify the MCTS formula by introducing a dynamic exploration-exploitation parameter $T$ that decreases linearly with the iteration number. Consequently, we provide a performance analysis. We observe that a variable $C_p$ solves our domain: it yields more exploration at the bottom and as a result the tuning problem has been simplified. The region in $C_p$ for which good values are found is increased by more than a tenfold. This result encourages us to continue our research to solve other prominent problems in High Energy Physics.

研究动机与目标

• 解决高能物理中计算瓶颈问题，即包含数百万项的表达式数值积分需耗时数周。
• 通过优化Horner方案和公共子表达式消除，减少大规模多变量多项式中的算术运算次数。
• 通过解决两个关键局限性，提升蒙特卡洛树搜索（MCTS）在表达式简化中的性能与鲁棒性：对探索-利用常数$C_p$的敏感性，以及树底层级探索不足的问题。
• 开发一种方法，实现复杂表达式的更快、更可靠的简化，使高精度理论预测在计算上变得可行。

提出的方法

• 本文应用MCTS结合UCT（应用于树的置信上界）选择准则，搜索多变量多项式表达式中近似最优的Horner方案。
• 提出SA-UCT，即UCT的一种变体，其中探索参数$C_p$随迭代次数线性递减，实现从探索到利用的过渡。
• 该方法使用性能评估函数，估算给定Horner方案所需的运算次数，引导树搜索向低代价解收敛。
• 将SA-UCT与标准UCT及嵌套蒙特卡洛搜索（NMCS）进行对比，评估其在高能物理与数学基准多项式上的有效性与计算可行性。
• 该方法已集成至FORM计算机代数系统，结果计划纳入未来版本。
• 该方法支持可交换与不可交换变量，未来将扩展以处理不可交换子表达式及变量线性组合。

实验结果

研究问题

• RQ1 使用动态探索-利用参数的MCTS能否提升高能物理中大规模多变量多项式Horner方案选择的质量与鲁棒性？
• RQ2 SA-UCT中$C_p$的动态调整相较于UCT中固定的$C_p$，如何影响收敛性与解的质量？
• RQ3 NMCS在此领域为何无法有效扩展？其局限性能否通过算法改进克服？
• RQ4 与UCT相比，SA-UCT中有效$C_p$值的范围扩大了多少倍？这一扩展对调优工作量有何影响？
• RQ5 SA-UCT能否推广至高能物理中的其他表达式简化问题，如递推关系求解或非交换代数？

主要发现

• 与朴素Horner方案相比，SA-UCT在基准多项式中将运算次数减少了最多24倍。
• 在SA-UCT下，能获得良好解的$C_p$值的有效范围至少扩大了十倍，显著简化了超参数调优。
• 随着$C_p$的动态递减，树底层级的探索得到增强，从而在后期迭代中提升了解的质量。
• 尽管NMCS在理论上解决了上述两个问题，但由于评估函数成本过高（每次评估需6秒），导致计算上不可行。
• SA-UCT在不同树更新次数下表现稳定，随着$N$增大，能稳定收敛至近全局最优解。
• 在真实高能物理应用中，该方法将数值积分时间从数周缩短至数天甚至数小时。