[논문 리뷰] Ultra-Fast Reactive Transport Simulations When Chemical Reactions Meet Machine Learning: Chemical Equilibrium

Allan M. M. Leal, Dmitrii A. Kulik외 1명|arXiv (Cornell University)|2017. 08. 16.

Machine Learning in Materials Science인용 수 9

한 줄 요약

이 논문은 기존의 반복 계산을 피하기 위해 과거의 유사한 해를 기반으로 새로운 평형 상태를 예측함으로써 반응성 이동 시뮬레이션에서 화학 평형 계산을 가속화하는 기계학습 방법을 제안한다. 요구되는 훈련 데이터 없이도 실시간 정확한 예측이 가능하며, 필요에 따라 훈련하고 일阶 도함수를 활용함으로써 최대 100배의 속도 향상을 달성한다.

ABSTRACT

During reactive transport modeling, the computational cost associated with chemical reaction calculations is often 10-100 times higher than that of transport calculations. Most of these costs results from chemical equilibrium calculations that are performed at least once in every mesh cell and at every time step of the simulation. Calculating chemical equilibrium is an iterative process, where each iteration is in general so computationally expensive that even if every calculation converged in a single iteration, the resulting speedup would not be significant. Thus, rather than proposing a fast-converging numerical method for solving chemical equilibrium equations, we present a machine learning method that enables new equilibrium states to be quickly and accurately estimated, whenever a previous equilibrium calculation with similar input conditions has been performed. We demonstrate the use of this smart chemical equilibrium method in a reactive transport modeling example and show that, even at early simulation times, the majority of all equilibrium calculations are quickly predicted and, after some time steps, the machine-learning-accelerated chemical solver has been fully trained to rapidly perform all subsequent equilibrium calculations, resulting in speedups of almost two orders of magnitude. We remark that our new on-demand machine learning method can be applied to any case in which a massive number of sequential/parallel evaluations of a computationally expensive function $f$ needs to be done, $y=f(x)$. We remark, that, in contrast to traditional machine learning algorithms, our on-demand training approach does not require a statistics-based training phase before the actual simulation of interest commences. The introduced on-demand training scheme requires, however, the first-order derivatives $\\partial f/\\partial x$ for later smart predictions.

연구 동기 및 목표

• 반응성 이동 시뮬레이션에서 운반 과정보다 10–100배 더 많은 시간을 소비하는 화학 평형 계산이라는 주요 계산 병목 현상을 해결한다.
• 열린 수렴 속도를 가진 전통적인 반복적 해법조차도 열역학적 성질 평가 및 선형 시스템 해법을 반복적으로 수행하기 때문에 여전히 비용이 많이 드는 문제를 해결한다.
• 사전 시뮬레이션 훈련 단계가 필요 없는 기계학습 프레임워크를 개발하여 화학 평형 상태를 신속하고 정확하게 예측할 수 있도록 한다.
• 이전에 해결된 유사한 평형 문제를 기반으로 첫 번째 도함수를 활용해 스마트한 예측을 유도하는 실시간, 즉각적 학습을 가능하게 한다.
• 실제 반응성 이동 사례 연구를 통해 이 방법의 효과성을 입증하며, 초기 시뮬레이션 단계에서도 상당한 성능 향상을 보여준다.

제안 방법

• 이전에 해결된 평형 문제의 데이터베이스에서 가장 유사한 입력 조건을 찾기 위해 최근접 이웃 검색을 수행한다.
• 첫 번째 도함수 기반 선형 근사치를 사용하여, 벡터 덧셈과 행렬 곱셈을 통해 가장 가까운 이전 해에서 새로운 평형 조성을 추정한다.
• 예측된 평형 상태의 정확성을 보장하기 위해 전체 재계산 없이도 경량 수용 기준을 적용한다.
• 예측에 실패할 경우에만 새로운 해를 저장함으로써 시뮬레이션 중 동적으로 모델을 훈련시으며, 사전 시뮬레이션 데이터 수집을 피한다.
• 모든 시간 단계에서 메쉬 셀 중 소수의 셀만 높은 반응성을 보이기 때문에, 이는 성능 향상에 매우 효과적이다.
• 평형 함수의 야코비안(편미분 ∂f/∂x)을 사용하여 민감도 기반 보정을 계산함으로써, 유사한 화학 상태 간의 정확한 외삽을 가능하게 한다.

실험 결과

연구 질문

• RQ1 기존의 사전 훈련 데이터가 필요 없이 기계학습을 활용해 반응성 이동 시뮬레이션에서 화학 평형 계산을 가속화할 수 있는가?
• RQ2 기존의 반복적 해법과 비교해 볼 때, 필요에 따라 학습하고 도함수 기반 예측을 사용하는 방식이 얼마나 계산 비용을 줄일 수 있는가?
• RQ3 모든 시간 단계에서 세포 중 소수만 유의미한 화학 변화를 겪을 경우, 이 방법은 시뮬레이션 시간을 얼마나 효과적으로 줄일 수 있는가?
• RQ4 열역학적 성질 평가 및 선형 시스템 해법과 같은 고비용 연산을 건너뛰면서도 높은 정확도를 유지할 수 있는가?
• RQ5 실제 반응성 이동 모델에서 스마트한 평형 알고리즘을 사용할 경우, 성능 향상은 어느 정도 달성될 수 있는가?

주요 결과

• 제안된 기계학습 방법은 화학 평형 계산을 가속화함으로써 반응성 이동 시뮬레이션에서 거의 두 자리 수의 속도 향상(최대 약 100×)을 달성한다.
• 조금만 경과한 초기 시뮬레이션 단계에서도 대부분의 평형 계산이 과거의 유사한 해를 기반으로 신속히 예측되어, 초기 단계부터 계산 부담이 감소한다.
• 몇 번의 시간 단계 이후에는 모델이 완전히 훈련되어 이후 모든 평형 상태를 매우 신속하고 정확하게 예측하며, 최소한의 재계산으로만 처리된다.
• 민감도 기반 근사치를 활용함으로써 활성도 계수 평가 및 선형 시스템 해법과 같은 고비용 반복 연산을 회피한다.
• 사전 시뮬레이션 대규모 데이터셋이 필요 없고, 전통적 훈련 단계의 종료 시점을 결정하는 불확실성도 제거하는 즉각적 훈련 접근 방식이다.
• 입력 조건이 점진적으로 변화하는 경우에 특히 유사한 함수 y = f(x)를 반복적으로 평가해야 하는 모든 문제에 일반화 가능하다.