[論文レビュー] Flow-based Extremal Mathematical Structure Discovery

Gergely Bérczi, Baran Hashemi+1 more|arXiv (Cornell University)|Jan 25, 2026

Machine Learning in Materials Science被引用数 0

ひとこと要約

FlowBoost は、条件付きフローミッチング、幾何学を意識したサンプリング、報酬ガイド付き微調整を組み合わせた閉ループのフロー基盤生成フレームワークで、希少な極端な幾何配置を発見する方法を学習する。計算資源を大幅に抑えつつ、LLMs に依存しない競争力のある結果を達成します。

ABSTRACT

The discovery of extremal structures in mathematics requires navigating vast and nonconvex landscapes where analytical methods offer little guidance and brute-force search becomes intractable. We introduce FlowBoost, a closed-loop generative framework that learns to discover rare and extremal geometric structures by combining three components: (i) a geometry-aware conditional flow-matching model that learns to sample high-quality configurations, (ii) reward-guided policy optimization with action exploration that directly optimizes the generation process toward the objective while maintaining diversity, and (iii) stochastic local search for both training-data generation and final refinement. Unlike prior open-loop approaches, such as PatternBoost that retrains on filtered discrete samples, or AlphaEvolve which relies on frozen Large Language Models (LLMs) as evolutionary mutation operators, FlowBoost enforces geometric feasibility during sampling, and propagates reward signal directly into the generative model, closing the optimization loop and requiring much smaller training sets and shorter training times, and reducing the required outer-loop iterations by orders of magnitude, while eliminating dependence on LLMs. We demonstrate the framework on four geometric optimization problems: sphere packing in hypercubes, circle packing maximizing sum of radii, the Heilbronn triangle problem, and star discrepancy minimization. In several cases, FlowBoost discovers configurations that match or exceed the best known results. For circle packings, we improve the best known lower bounds, surpassing the LLM-based system AlphaEvolve while using substantially fewer computational resources.

研究の動機と目的

• 高次元の配置空間における極端な幾何配置を発見する問題の動機づけと形式化。
• 連続生成、幾何学を意識したサンプリング、および報酬ガイド付き最適化を組み合わせた閉ループの SBO フレームワークとして FlowBoost を導入する。
• FlowBoost を球充填、円充填、Heilbronn 問題、および star discrepancy に適用して、競争力のあるまたは改善された結果を得る。
• ドメイン固有の帰納的バイアスと報酬ガイド付き学習が、より低い計算コストで LLM ベースのシステムと同等またはそれを上回ることができることを示す。

提案手法

• 条件付きフローマッチングを採用して、単純な事前分布を高品質な配置へ輸送する時間依存ベクトル場を学習する。
• 実現可能性を保つため、制約多様体への射影とフロー積分を交互に行うことで幾何学を意識したサンプリングを組み込む。
• 訓練中に制約を課す幾何学的ペナルティとオーバーラップエネルギーを統合し（ソフトペナルティと射影を含む）、制約を強制する。
• 教師-学生構成と重要度重み付け更新を伴う報酬ガイド付きファインチューニング（RG-CFM）を使用して、高報酬の配置へサンプリングを偏らせつつ崩壊を回避する。
• 適応壁、Gauss–Newton射影、近接緩和、終端の改良を備えた GAS ベースの推論手続きを用いて、実現可能なサンプルを保証する。
• 問題固有の報酬を定義し（例：充填の有効半径）、一貫性正則化を伴う重み付けされたフローマッチング損失を用いて、性能を向上させつつ多様性を維持する。

Figure 2 . Comparison of the minimum-excess metric for two local search heuristics (common circle counts). The physics-push heuristic yields consistently higher minimum-excess values than SRP/SRS, indicating worse configurations across the tested regime.

実験結果

リサーチクエスチョン

• RQ1 幾何を意識したサンプリングを備えたフロー基盤生成モデルは、連続空間において効率的に極端な幾何配置を発見できるだろうか？
• RQ2 閉ループの報酬ガイド付き SBO フレームワークは、従来のオープンループ生成法や LLM ベースの手法を古典的な極端幾何問題で上回るか？
• RQ3 幾何制約と帰納的バイアスは、サンプルの実現可能性と希少な配置の発見にどのように影響するか？
• RQ4 FlowBoost は球充填、円充填、Heilbronn、star discrepancy の問題における既知の構成をどの程度改善できるか？

主な発見

• FlowBoost は複数の幾何最適化問題で、既知の最良結果に匹敵するかそれを超える配置を発見する。
• 円充填において、FlowBoost は既知の下限境界を改善し、LLMベースの AlphaEvolve を、より少ない計算資源で上回る。
• Heilbronn 問題のインスタンスでは、FlowBoost は最小三角形の面積を、既知の数値へと近づけて改善する。
• 次元12の球充填では、FlowBoost はいくつかの古典的ヒューリスティックより密な配置を見つける。
• FlowBoost は、RL を用いた流れベース生成モデルを極値数学へ体系的に適用した最初の事例として提示され、計算資源を削減し、LLMs を用いずに堅実な結果を達成する。

(a) $N=55$ : training vs. RG-CFM (pushed).