[논문 리뷰] Solving the Discretised Boltzmann Transport Equations using Neural Networks: Applications in Neutron Transport

T. R. F. Phillips, C. E. Heaney외 3명|arXiv (Cornell University)|2023. 01. 24.

Model Reduction and Neural Networks인용 수 7

한 줄 요약

이 논문은 AI 라이브러리를 활용하여 중성자 이동 문제의 4차원 이산화된 볼츠만 운동방정식을 해결하기 위한 새로운 AI 네이티브 접근법을 제안한다. 이는 효율적인 GPU 및 AI 하드웨어 가속을 가능하게 한다. 공간-각도 다중격자 방법과 새로운 컨볼루션 유한요소법(ConvolFEM) 및 비선형 페트로프-갈레르킨 안정화 기법을 결합하여, 업윈드 방법과 유사한 안정성과 고차 정확도를 확보하면서도 더 높은 해상도와 더 높은 $k_{\text{eff}}$ 값을 제공한다.

ABSTRACT

In this paper we solve the Boltzmann transport equation using AI libraries. The reason why this is attractive is because it enables one to use the highly optimised software within AI libraries, enabling one to run on different computer architectures and enables one to tap into the vast quantity of community based software that has been developed for AI and ML applications e.g. mixed arithmetic precision or model parallelism. Here we take the first steps towards developing this approach for the Boltzmann transport equation and develop the necessary methods in order to do that effectively. This includes: 1) A space-angle multigrid solution method that can extract the level of parallelism necessary to run efficiently on GPUs or new AI computers. 2) A new Convolutional Finite Element Method (ConvFEM) that greatly simplifies the implementation of high order finite elements (quadratic to quintic, say). 3) A new non-linear Petrov-Galerkin method that introduces dissipation anisotropically.

연구 동기 및 목표

• AI 라이브러리를 활용하여 고차원 볼츠만 운동방정식을 해결하기 위한 확장 가능하고 하드웨어 최적화된 접근법을 개발한다.
• AI 소프트웨어 스택을 활용하여 GPU 및 신규 AI 가속기에서의 효율적 병렬 계산을 가능하게 한다.
• 고차 유한요소 이산화의 수치적 불안정성을 해결하기 위해 새로운 페트로프-갈레르킨 방법을 제안한다.
• 컨볼루션 기반의 스텐실 불변 형식(ConvolFEM)을 통해 고차 유한요소 구현을 단순화한다.
• 딥 러닝 아키텍처(예: U-net)를 활용한 다중격자 해법이 중성자 이동 문제에 적용 가능한지를 입증한다.

제안 방법

• 4차원 사각형 다중격자 사이클은 U-net 신경망 아키텍처를 사용하여 GPU 병렬 계산에 자연스럽게 대응한다.
• 2차원 공간과 2차원 각도에서 각 차원에 대해 2배로 구조적 격자 조정을 수행하며, 표준 연장 및 축소 연산자를 사용한다.
• 고정 크기 필터(예: 5×5, 7×7)를 사용하여 일관되고 효율적인 고차(2차에서 5차) 유한요소 이산화를 가능하게 하는 새로운 컨볼루션 유한요소법(ConvolFEM)을 도입한다.
• 비선형 페트로프-갈레르킨 방법을 적용하여 이방성 소산을 도입하고, 일阶 운동 방정식에서 유래하는 비대칭이고 정부호 정정 행렬의 해를 안정화한다.
• 다중격자 사이클 중 잔차 보정 과정을 추가로 안정화하기 위해 모든 격자 수준에서 업윈드 방법을 사용한다.
• 전체 해법 과정이 AI 라이브러리 내부에서 구현되어 혼합 정밀도 산술, 모델 병렬성, 하드웨어 이식성을 지원한다.

b Octahedron in a sphere, open

실험 결과

연구 질문

• RQ1 AI 라이브러리를 활용하여 중성자 이동 문제의 고차원 볼츠만 운동방정식을 효과적으로 해결할 수 있는가?
• RQ2 U-net 기반 다중격자 아키텍처는 GPU에서 4차원 공간-각도 이동 문제를 효율적으로 해결할 수 있는가?
• RQ3 ConvolFEM는 필터 변형을 최소화하면서 고차 유한요소 방법을 간소화하여 AI 기반 구현을 용이하게 할 수 있는가?
• RQ4 제안된 비선형 페트로프-갈레르킨 방법은 기존 갈레르킨 방법이 실패하는 고차 이동 해법을 안정화할 수 있는가?
• RQ5 이 AI 네이티브 프레임워크는 그래프 신경망을 활용하여 3차원 문제와 비정규 격자로 확장될 수 있는가?

주요 결과

• 제안된 ConvolFEM 방법은 고정 크기 필터를 사용하여 2차에서 5차까지의 고차 유한요소를 실현하며, 기존 FEM 대비 AI 프레임워크 내에서의 구현을 극적으로 단순화한다.
• 비선형 페트로프-갈레르킨 방법은 이산화된 볼츠만 운동방정식의 해를 성공적으로 안정화시키며, 이는 중심 또는 봉우리-갈레르킨 방법을 사용할 경우 수렴하지 못하는 상황을 해결한다.
• 2차 ConvolFEM 필터를 사용한 페트로프-갈레르킨 방법의 해는 업윈드 방법보다 더 높은 $k_{\text{eff}}$ 값을 보이며, 더 높은 정확도와 더 낮은 인위적 확산을 의미한다.
• 페트로프-갈레르킨 방법으로 구한 스칼라 플럭스 해는 업윈드 방법과 정성적으로 유사하지만, 더 높은 해상도와 약간 낮은 피크 플럭스를 보이며, 제어된 소산이 이루어지고 있음을 시사한다.
• 이 방법은 GPU 및 CPU에서 안정적인 수렴을 달성하며, Cerebras 2와 같은 AI 하드웨어를 활용해 엑사스케일 시스템으로 확장 가능성을 지닌다.
• 유체나 열 방정식의 다른 신경망 해법과 결합함으로써 이 프레임워크는 다물리성 문제로의 확장이 가능하다.

c $4\times 4$ grid on a triangle face.