[論文レビュー] Deep Generative Symbolic Regression with Monte-Carlo-Tree-Search

Pierre-Alexandre Kamienny, Guillaume Lample+2 more|arXiv (Cornell University)|Feb 22, 2023

Evolutionary Algorithms and Applications被引用数 5

ひとこと要約

本稿では、事前学習された深層生成モデルとモンテカルロ木探索（MCTS）を組み合わせることで、SRBenchベンチマークで最先端の性能を達成する、新しい記号回帰手法DGSR-MCTSを提案する。合成データ上で事前学習された文脈に配慮したニューラル突然変異ポリシーを、探索中にオンラインで微調整することで、探索と活用のバランスを図り、従来のGP手法よりも少ない評価回数で高精度かつ単純な式を獲得する。

ABSTRACT

Symbolic regression (SR) is the problem of learning a symbolic expression from numerical data. Recently, deep neural models trained on procedurally-generated synthetic datasets showed competitive performance compared to more classical Genetic Programming (GP) algorithms. Unlike their GP counterparts, these neural approaches are trained to generate expressions from datasets given as context. This allows them to produce accurate expressions in a single forward pass at test time. However, they usually do not benefit from search abilities, which result in low performance compared to GP on out-of-distribution datasets. In this paper, we propose a novel method which provides the best of both worlds, based on a Monte-Carlo Tree Search procedure using a context-aware neural mutation model, which is initially pre-trained to learn promising mutations, and further refined from successful experiences in an online fashion. The approach demonstrates state-of-the-art performance on the well-known exttt{SRBench} benchmark.

研究の動機と目的

• 既存の深層生成記号回帰（DGSR）手法には探索能力がなく、分布外データで性能が劣ることを克服すること。
• 事前学習されたDGSRの高速性と誘導バイアスと、モンテカルロ木探索（MCTS）の探索効率を統合し、一般化性能を向上させること。
• 合成データでの事前学習と、探索中のオンライン微調整を同時に活用し、新しいデータセットに適応できる手法を開発すること。
• 実世界および合成ベンチマークにおいて、古典的GPおよび先行DGSR手法と比較して、優れた精度-複雑さトレードオフを達成すること。

提案手法

• 本手法は、合成データ上で事前学習されたニューラル突然変異ポリシーを用い、探索中に成功した探索試行のフィードバックを活用してオンラインで微調整することで、探索と活用のバランスを図る。
• 合成データで初期化されたクリティックネットワークが、UCB1風の上位信頼区間を用いて、探索（訪問回数が少ないノード）と活用（性能が良いノード）のバランスを取る選択ポリシーをガイドする。
• MCTSプロセスでは、既存の式に学習済みの突然変異を適用することで探索木を拡張し、各ノードが記号的式を表し、エッジが有効な突然変異を表す。
• 突然変異ポリシーとクリティックネットワークは、複数のデータセット across でオンラインで共同微調整され、トランスファー学習を可能にし、新しいデータ分布への適応性を向上させる。
• 本手法は、データセットを入力トークンとして処理するトランスフォーマー型アーキテクチャを用い、データ分布に応じた文脈に配慮した突然変異生成を可能にする。
• 本手法はSRBenchベンチマークで評価され、実世界のブラックボックスデータセットとFeynmanデータセットを含むが、主な指標として決定係数（R²）と式のサイズが用いられる。

実験結果

リサーチクエスチョン

• RQ1 事前学習された深層生成モデルをMCTSと効果的に組み合わせることで、分布外データにおける記号回帰性能を向上させることができるか？
• RQ2 探索中に突然変異ポリシーとクリティックネットワークをオンラインで微調整することで、静的で事前学習のみの手法よりも一般化性能が向上するか？
• RQ3 提案手法DGSR-MCTSは、最先端のGPおよびDGSRベースラインと比較して、精度と式の単純さの両面で優れているか？
• RQ4 合成データセットを用いた事前学習と、同時に複数のデータセットでの微調整が、下流の性能に与える影響は何か？

主な発見

• DGSR-MCTSはSRBenchベンチマークで最先端の性能を達成し、ブラックボックスデータセットおよびFeynmanデータセットの両方でパレート最適（順位0）にランクインした。
• ブラックボックスデータセットでは、テストR²が0.846、式サイズが41を達成し、E2E（R² 0.797、サイズ61）および他のベースラインを上回った。
• Feynmanデータセットでは、87%の問題でR² ≥ 0.99を達成し、平均式サイズは33であった。これはE2E（R² ≥ 0.99を達成する割合80%、サイズ121）を著しく上回った。
• アブレーションスタディの結果、合成データセットを用いた事前学習と、同時に複数のデータセットでの微調整が最良の性能をもたらし、ブラックボックスデータセットでR² = 0.846、FeynmanデータセットでR² = 0.796を達成した。
• 事前学習とオンライン微調整の両方が不可欠であることが示された。両者のいずれかを省略すると、性能が著しく低下した。
• 特に、従来のDGSR手法が性能を発揮できない実世界や複雑な記号的問題において、優れた精度-複雑さトレードオフを達成した。