[논문 리뷰] GeoPT: Scaling Physics Simulation via Lifted Geometric Pre-Training

Haixu Wu, Wenhao Gao외 5명|arXiv (Cornell University)|2026. 02. 23.

Model Reduction and Neural Networks인용 수 0

한 줄 요약

GeoPT가 기하학으로부터 물리 백본을 프리-트레이닝하는 방식은 합성 속도장을 이용한 lifted dynamics를 통해 산업 규모의 유체 및 고체 시뮬레이션에서 데이터 효율적인 파인튜닝을 가능하게 한다.

ABSTRACT

Neural simulators promise efficient surrogates for physics simulation, but scaling them is bottlenecked by the prohibitive cost of generating high-fidelity training data. Pre-training on abundant off-the-shelf geometries offers a natural alternative, yet faces a fundamental gap: supervision on static geometry alone ignores dynamics and can lead to negative transfer on physics tasks. We present GeoPT, a unified pre-trained model for general physics simulation based on lifted geometric pre-training. The core idea is to augment geometry with synthetic dynamics, enabling dynamics-aware self-supervision without physics labels. Pre-trained on over one million samples, GeoPT consistently improves industrial-fidelity benchmarks spanning fluid mechanics for cars, aircraft, and ships, and solid mechanics in crash simulation, reducing labeled data requirements by 20-60% and accelerating convergence by 2$ imes$. These results show that lifting with synthetic dynamics bridges the geometry-physics gap, unlocking a scalable path for neural simulation and potentially beyond. Code is available at https://github.com/Physics-Scaling/GeoPT.

연구 동기 및 목표

• 비용이 많이 드는 솔버 생성 데이터에 의존을 줄여 확장 가능한 신경 시뮬레이션을 촉진한다.
• 기하-다이나믹스 결합을 인코딩하기 위한 dynamics-lifted 기하학적 프리트레이닝을 도입한다.
• 합성 다이나믹스를 가진 대형 기하학 데이터세트에서 프리트레이닝하여 다이나믹스 인지 선험(prior)을 학습한다.
• 작업 특화 다이나믹스를 입력으로 하는 다양한 물리 문제에 대해 프리-트레이닝 모델을 미세조정한다.]
• method:[
• Augment geometry with synthetic velocity fields to create dynamics-lifted inputs.
• Train a physics backbone (Transolver) to predict geometric feature trajectories under synthetic dynamics (lifted pre-training objective).
• Use a pre-training loss that minimizes the difference between predicted trajectories and geometry feature trajectories over time (L_pre^lifted).
• Fine-tune by replacing random dynamics with task-specific velocity fields V_S that encode the simulation settings S and minimize the physics loss (L_fine).
• Discretize the trajectory into three steps and pre-train on over one million geometry-dynamics samples from public geometry repositories.

제안 방법

• Augment geometry with synthetic velocity fields to create dynamics-lifted inputs.
• Train a physics backbone (Transolver) to predict geometric feature trajectories under synthetic dynamics (lifted pre-training objective).
• Use a pre-training loss that minimizes the difference between predicted trajectories and geometry feature trajectories over time (L_pre^lifted).
• Fine-tune by replacing random dynamics with task-specific velocity fields V_S that encode the simulation settings S and minimize the physics loss (L_fine).
• Discretize the trajectory into three steps and pre-train on over one million geometry-dynamics samples from public geometry repositories.

Figure 1 : Neural aerodynamics simulation on DrivAerML (Ashton et al. , 2024 ) based on Transolver (Wu et al. , 2024 ) backbone. Geometry-only pre-training and conditioning refer to pre-training by predicting vector distance (Faugeras and Gomes, 2000 ) of given positions and utilizing geometry repre

실험 결과

연구 질문

• RQ1 다이나믹스-리프트 기하학적 프리트레이닝이 라벨 없는 기하학에서 물리 인지 선험을 학습할 수 있는가?
• RQ2 GeoPT가 다양한 산업 시뮬레이션에서 하류 물리 데이터 요구를 줄이고 수렴 속도를 가속하는가?
• RQ3 GeoPT는 물리 작업에 대해 원래 기하 프리트레이닝이나 기하 조건 기반 기준선과 어떻게 비교되는가?
• RQ4 리프트된 프리트레이닝 아키텍처가 서로 다른 물리 백본과 작업에 호환되는가?
• RQ5 이 접근법이 유체와 고체를 넘어 방사성(radiosity)과 같은 영역으로 일반화될 수 있는가?

주요 결과

• GeoPT는 여러 산업 벤치마크에서 필요한 물리 데이터 양을 20-60% 감소시킨다.
• 미세조정 과정에서 수렴 속도를 최대 2배로 가속한다.
• 해결사 없이 solver-free 기하 샘플 one million 건 이상에서 프리트레이닝하면 항공역학, 수역역학 및 충돌 시뮬레이션 전반에서 강건한 개선을 얻을 수 있다.
• 기하-리프트 감독은 물리에 맞춘 표현을 생성하여 기하만 프리트레이닝 및 기하 조건 기반 기준선보다 우수하게 작동한다.
• GeoPT는 모델 크기와 프리-트레이닝 데이터 다양성에 따른 확장성을 보여주고, 방사성(radiosity)과 같은 다른 물리 도메인으로 일반화한다.

Figure 2 : GeoPT offers a way to scale up neural simulators with off-the-shelf geometries and enables fast fine-tuning for various physics.