[논문 리뷰] Flow-based Extremal Mathematical Structure Discovery

Gergely Bérczi, Baran Hashemi외 1명|arXiv (Cornell University)|2026. 01. 25.

Machine Learning in Materials Science인용 수 0

한 줄 요약

FlowBoost는 조건부 흐름 매칭, 기하학 인지 샘플링, 보상 가이드 파인튜닝을 통합하여 희귀한 극값 기하 구성을 발견하도록 학습하는 닫힌 루프의 흐름 기반 생성 프레임워크로, 대폭 적은 계산 자원으로 경쟁력 있는 성능을 달성하며 LLMs에 의존하지 않는다.

ABSTRACT

The discovery of extremal structures in mathematics requires navigating vast and nonconvex landscapes where analytical methods offer little guidance and brute-force search becomes intractable. We introduce FlowBoost, a closed-loop generative framework that learns to discover rare and extremal geometric structures by combining three components: (i) a geometry-aware conditional flow-matching model that learns to sample high-quality configurations, (ii) reward-guided policy optimization with action exploration that directly optimizes the generation process toward the objective while maintaining diversity, and (iii) stochastic local search for both training-data generation and final refinement. Unlike prior open-loop approaches, such as PatternBoost that retrains on filtered discrete samples, or AlphaEvolve which relies on frozen Large Language Models (LLMs) as evolutionary mutation operators, FlowBoost enforces geometric feasibility during sampling, and propagates reward signal directly into the generative model, closing the optimization loop and requiring much smaller training sets and shorter training times, and reducing the required outer-loop iterations by orders of magnitude, while eliminating dependence on LLMs. We demonstrate the framework on four geometric optimization problems: sphere packing in hypercubes, circle packing maximizing sum of radii, the Heilbronn triangle problem, and star discrepancy minimization. In several cases, FlowBoost discovers configurations that match or exceed the best known results. For circle packings, we improve the best known lower bounds, surpassing the LLM-based system AlphaEvolve while using substantially fewer computational resources.

연구 동기 및 목표

• 고차원 구성 공간에서 극값 기하 구조를 발견하는 문제의 동기 부여 및 형식을 formalize한다.
• FlowBoost를 연속 생성, 기하학 인지 샘플링, 보상 가이드 최적화를 결합한 폐쇄 루프 SBO 프레임워크로 도입한다.
• 구, 구형 포장, 원 포장, Heilbronn 문제, Star discrepancy에서 FlowBoost를 시연하여 경쟁력 있는 또는 개선된 결과를 얻는다.
• 도메인 특화 귀납 편향 및 보상 가이드 학습이 LLM 기반 시스템과 비교하여 더 낮은 계산 비용으로 일치하거나 능가할 수 있음을 보인다.

제안 방법

• 조건부 흐름 매칭을 채택하여 간단한 사전 분포를 고품질 구성으로 이동시키는 시간 의존 벡터장을 학습한다.
• 흐름 적분을 제약 다양체에 대한 투영과 교차시키며 기하학 인지 샘플링을 도입하여 실행 가능성을 유지한다.
• 훈련 중 제약을 강제하기 위해 기하학적 페널티와 중첩 에너지를 통합한다(소프트 페널티 및 투영).
• 강화 학습 기반 파인튜닝(RG-CFM)을 교사-학생 설정 및 중요도 가중 업데이트로 사용하여 고보상 구성 쪽으로 샘플링을 편향시키되 수렴을 피한다.
• 적응적 벽, Gauss–Newton 투영, 근사화의 근거리화 및 종료 정제를 갖춘 GAS 기반 추론 절차를 사용하여 실행 가능한 샘플을 보장한다.
• 포장에 대한 효과적 반경과 같은 문제별 보상을 정의하고 일관성 규제를 통한 다변성 유지를 하며 성능을 향상시키는 가중 흐름 매칭 손실을 사용한다.

Figure 2 . Comparison of the minimum-excess metric for two local search heuristics (common circle counts). The physics-push heuristic yields consistently higher minimum-excess values than SRP/SRS, indicating worse configurations across the tested regime.

실험 결과

연구 질문

• RQ1 기하 인지 샘플링을 가진 흐름 기반 생성 모델이 연속 공간에서 극값 기하 구성을 효율적으로 발견할 수 있는가?
• RQ2 닫힌 루프 보상 가이드 SBO 프레임워크가 고전적 극값 기하 문제에서 개방 루프 생성 방식 및 LLM 기반 방법보다 우수한가?
• RQ3 기하 제약 및 귀납 편향이 샘플 실행 가능성과 희귀 구성의 발견에 어떤 영향을 미치는가?
• RQ4 FlowBoost가 구 포장, 원 포장, Heilbronn, 및 star discrepancy 문제의 알려진 구성들을 어느 정도까지 개선할 수 있는가?

주요 결과

• FlowBoost는 여러 기하학적 최적화 문제에서 최적값에 근접하거나 이를 초과하는 구성을 발견한다.
• 원 포장 문제의 경우 FlowBoost는 알려진 최저 경계를 개선하고 LLM 기반 AlphaEvolve보다 낮은 계산 자원으로 우수한 성능을 발휘한다.
• Heilbronn 문제의 사례에서 FlowBoost는 삼각형 면적의 최소값을 알려진 수치에 근접하게 개선한다.
• 12차원 구 포장에서 FlowBoost는 일부 고전 휴리스틱보다 더 조밀한 구성을 찾는다.
• FlowBoost는 RL과 함께 흐름 기반 생성 모델의 극값 수학에 대한 체계적 적용의 최초 사례로, LLM 없이도 강한 결과를 달성하며 계산 자원을 줄인다.

(a) $N=55$ : training vs. RG-CFM (pushed).