[논문 리뷰] Efficient Learning of Mesh-Based Physical Simulation with BSMS-GNN

Yadi Cao, Menglei Chai외 2명|arXiv (Cornell University)|2022. 10. 05.

Advanced Neural Network Applications인용 수 5

한 줄 요약

이 논문은 수동으로 굴곡을 줄이거나 공간적 근접성 히우리스틱을 사용하지 않고 계층적인 메쉬 표현을 생성하기 위해 위상적 너비 우선 탐색 풀링을 사용하는 새로운 이중스트라이드 다중스케일 그래프 신경망인 BSMS-GNN을 제안한다. 비매개변수적이고 수준당 한 번의 메시지 전파만으로도 기존 방법에 비해 대규모 메쉬 기반 물리 시뮬레이션에서 뛰어난 정확도와 효율성을 달성한다.

ABSTRACT

Learning the physical simulation on large-scale meshes with flat Graph Neural Networks (GNNs) and stacking Message Passings (MPs) is challenging due to the scaling complexity w.r.t. the number of nodes and over-smoothing. There has been growing interest in the community to introduce extit{multi-scale} structures to GNNs for physical simulation. However, current state-of-the-art methods are limited by their reliance on the labor-intensive drawing of coarser meshes or building coarser levels based on spatial proximity, which can introduce wrong edges across geometry boundaries. Inspired by the bipartite graph determination, we propose a novel pooling strategy, extit{bi-stride} to tackle the aforementioned limitations. Bi-stride pools nodes on every other frontier of the breadth-first search (BFS), without the need for the manual drawing of coarser meshes and avoiding the wrong edges by spatial proximity. Additionally, it enables a one-MP scheme per level and non-parametrized pooling and unpooling by interpolations, resembling U-Nets, which significantly reduces computational costs. Experiments show that the proposed framework, extit{BSMS-GNN}, significantly outperforms existing methods in terms of both accuracy and computational efficiency in representative physical simulations.

연구 동기 및 목표

• 기존의 다중 수준 GNN이 수동으로 그린 메쉬나 공간적 근접성 기반의 굴곡된 메쉬에 의존함으로써 오류 연결이 발생하는 문제를 해결한다.
• 계층적이고 다중스케일 아키텍처를 도입하여 대규모 메쉬 기반 GNN의 계산 복잡도와 과도한 평균화 문제를 해결한다.
• 원래 메쉬의 그래프 구조만을 사용하여 위상적 연결성을 유지하고 인위적인 분할을 방지하는 풀링 메커니즘을 개발한다.
• 보간을 통한 비매개변수적 풀링과 언풀링을 통해 수준당 한 번의 메시지 전파만으로도 효율적인 추론을 가능하게 하여 학습 및 추론 비용을 감소시킨다.
• 복잡하고 비정규적인 기하학적 형태를 가진 다양한 물리 시뮬레이션 벤치마크에서 최첨단 성능을 입증한다.

제안 방법

• 메쉬 그래프의 너비 우선 탐색 순회에서 매번 다른 프론티어에서 노드를 선택하는 새로운 계층적 그래프 풀링 전략인 이중스트라이드 풀링을 제안한다.
• 공간적 근접성이나 기하학적 정보가 아닌 위상 정보를 사용하여 더 낮은 수준의 그래프를 정의함으로써 연결성을 보장하고 경계를 가로질러 임의의 간선이 생기는 것을 방지한다.
• 보간을 통한 비매개변수적 풀링과 언풀링을 구현하여 스케일 간 메시지 전파에 학습 가능한 매개변수의 필요성을 제거한다.
• 메시지 전파 수준당 한 번씩 작동하는 U-Net 유사 아키텍처에 다중스케일 계층을 통합하여 과도한 평균화를 줄인다.
• 비정규 메쉬에서 물리적 역학을 예측하기 위해 물리 기반 손실을 사용하여 모델을 엔드 투 엔드로 학습시킨다.
• 계층적 구조를 활용하여 최소한의 계산 오버헤드로 효율적인 추론과 장기적인 시뮬레이션 롤아웃을 가능하게 한다.

실험 결과

연구 질문

• RQ1 위상 기반 풀링 전략이 다중 수준 GNN의 물리 시뮬레이션에서 수동 또는 공간적 근접성 기반 굴곡을 제거할 수 있는가?
• RQ2 이중스트라이드 풀링이 학습 가능한 또는 근접성 기반 풀링 방법보다 그래프 연결성과 물리적 정확도를 더 잘 유지하는가?
• RQ3 수준당 한 번의 메시지 전파 전략이 대규모 메쉬 시뮬레이션에서 계산 비용을 크게 줄이면서도 높은 정확도를 유지할 수 있는가?
• RQ4 복잡한 기하학적 형태를 가진 다양한 물리 시스템에서 MeshGraphNets와 MS-GNN-Grid와 같은 최첨단 방법과 비교해 BSMS-GNN의 성능은 어떠한가?
• RQ5 비매개변수적 풀링 및 보간을 통한 언풀링 메커니즘이 학습 효율성과 추론 속도를 얼마나 향상시키는가?

주요 결과

• BSMS-GNN는 CylinderFlow, Airfoil, DeformingPlate, InflatingFont를 포함한 여러 물리 시뮬레이션 벤치마크에서 정확도와 추론 속도 면에서 최첨단 성능을 달성한다.
• 플랫 GNN에서 메시지 전파를 반복적으로 쌓는 것과 같은 제곱형 복잡도를 피하기 위해 수준당 한 번의 메시지 전파 전략을 통해 계산 비용을 크게 감소시켰다.
• 스케일링 분석 결과 BSMS-GNN는 메쉬 크기에 따라 거의 선형적으로 확장되며, 해상도가 증가함에 따라 MS-GNN-Grid와 MeshGraphNets에 비해 효율성이 뛰어나다.
• 이중스트라이드 풀링 전략은 기하학적 경계를 가로질러 임의의 간선이 생기는 것을 방지하여 매우 비정규적이거나 스스로 접촉이 일어나는 메쉬에서도 위상적 정확도를 유지한다.
• 비매개변수적 풀링 및 보간을 통한 언풀링은 모델 복잡도와 학습 시간을 감소시키며, 벽 시계 시간이 에포크 수준에서 단위 학습 시간에 비례한다.
• 이 프레임워크는 복잡한 토폴로지가 있는 메쉬를 포함한 임의의 기하학적 형태에서도 강건성을 보이며, 공간적 근접성 기반 굴곡이 실패하는 경우에도 잘 작동한다.