[논문 리뷰] An efficient plasma-surface interaction surrogate model for sputtering processes based on autoencoder neural networks

Tobias Gergs, Borislav Borislavov외 1명|arXiv (Cornell University)|2021. 09. 03.

Nuclear Materials and Properties참고 문헌 32인용 수 24

한 줄 요약

이 논문은 고차원 에너지-각도 분포(EAD)를 두 성분의 잠재 공간으로 압축하는 물리 기반의 오토인코더 기반 서rogate 모델을 제안한다. 조건부 β-variational autoencoder와 전이 학습을 활용하여, 표준 다층 퍼셉트론의 0.378%에 해당하는 15,111개의 파rameter로 경쟁적인 예측 정확도를 달성함으로써, 다양한 Ti-Al 스토이키오메트리와 이온 에너지 분포를 효율적이고 일반화 가능한 방식으로 모델링할 수 있다.

ABSTRACT

Simulations of thin film sputter deposition require the separation of the plasma and material transport in the gas-phase from the growth/sputtering processes at the bounding surfaces. Interface models based on analytic expressions or look-up tables inherently restrict this complex interaction to a bare minimum. A machine learning model has recently been shown to overcome this remedy for Ar ions bombarding a Ti-Al composite target. However, the chosen network structure (i.e., a multilayer perceptron) provides approximately 4 million degrees of freedom, which bears the risk of overfitting the relevant dynamics and complicating the model to an unreliable extend. This work proposes a conceptually more sophisticated but parameterwise simplified regression artificial neural network for an extended scenario, considering a variable instead of a single fixed Ti-Al stoichiometry. A convolutional $\beta$-variational autoencoder is trained to reduce the high-dimensional energy-angular distribution of sputtered particles to a latent space representation of only two components. In addition to a primary decoder which is trained to reconstruct the input energy-angular distribution, a secondary decoder is employed to reconstruct the mean energy of incident Ar ions as well as the present Ti-Al composition. The mutual latent space is hence conditioned on these quantities. The trained primary decoder of the variational autoencoder network is subsequently transferred to a regression network, for which only the mapping to the particular latent space has to be learned. While obtaining a competitive performance, the number of degrees of freedom is drastically reduced to 15,111 and 486 parameters for the primary decoder and the remaining regression network, respectively. The underlying methodology is general and can easily be extended to more complex physical descriptions with a minimal amount of data required.

연구 동기 및 목표

• 플라즈마-표면 상호작용 시뮬레이션에서 고파라미터 기계학습 모델의 계산 비효율성과 과적합 위험을 해결한다.
• 이전의 스퍼터링 입자 EAD 예측 연구를 확장하여, 조절 가능한 표면 파rameter로써의 변동성 있는 Ti-Al 스토이키오메트리를 포함한다.
• 조건부 변동형 오토인코더를 통해 복잡한 고차원 EAD 데이터의 차원을 감소시키면서도 물리적 의미를 유지한다.
• 기존의 예측기 모델에 대해 사전 학습된 디코더를 전이하여, 최소한의 파rameter를 가진 경량 모델로의 효율적 회귀를 가능하게 한다.
• 분자역학 시뮬레이션과 같은 계산 비용이 높은 물리적 시나리오에 적합한 일반화 가능하고 데이터 효율적인 프레임워크를 개발한다.

제안 방법

• 30×20 에너지-각도 분포(EAD) 데이터를 조건부 β-변동형 오토인코더(β-VAE)로 학습하여, 입사 Ar 이온 에너지와 Ti-Al 조성 조건 하에 두 차원의 잠재 공간으로 압축한다.
• 이중 디코더 아키텍처를 구현: 주 디코더는 전체 EAD를 재구성하고, 보조 디코더는 공유된 잠재 공간에서 평균 입사 이온 에너지와 표면 스토이키오메트리를 예측한다.
• 전이 학습을 적용하여 사전 학습된 β-VAE 인코더와 디코더를 고정하고, 입력 이온 에너지 분포를 잠재 공간으로 매핑하는 데 전용 회귀 헤드만을 미세조정한다.
• 컨볼루션 레이어와의 호환성을 확보하고 학습 안정성을 향상시키기 위해 2의 거듭제곱 패딩 전략을 적용한다.
• TRIDYN 스퍼터링 시뮬레이션을 통해 생성한 1,350개 샘플(각 스토이키오메트리 x = 0.3, 0.5, 0.7당 450개)의 실제적인 소규모 데이터셋으로 모델을 학습한다.
• 외부 분포 데이터(x = 0.2, 0.4, 0.8)를 사용하여 일반화 성능을 검증하고, 내삽 및 외삽 성능을 평가한다.

실험 결과

연구 질문

• RQ1 조건부 β-변동형 오토인코더는 다종의 스퍼터링 입자 에너지-각도 분포를 효과적으로 압축하면서도 물리적 정확성을 유지할 수 있는가?
• RQ2 기존의 변동형 오토인코더에서 사전 학습된 디코더를 회귀 네트워크로 전이함으로써, 예측 정확도를 유지하면서도 모델 복잡성을 크게 줄일 수 있는가?
• RQ3 제한된 학습 데이터로도, 새로운 Ti-Al 스토이키오메트리(x = 0.2, 0.4, 0.8)에 대해 결과 서rogate 모델이 얼마나 잘 일반화되는가?
• RQ4 표준 다층 퍼셉트론 대비 모델의 학습 가능한 파라미터 수를 얼마나 줄일 수 있는가? 이와 동시에 스퍼터링 과정 모델링에서 경쟁적인 성능을 유지를 할 수 있는가?

주요 결과

• 제안된 모델은 주 디코더의 학습 가능한 파라미터 수를 15,111개(표준 다층 퍼셉트론의 0.378%)로 줄여 과적합 위험을 크게 감소시켰다.
• 남은 회귀 네트워크는 단지 486개의 파라미터(MLP의 0.012%)만을 필요로 하여 매우 효율적인 추론과 배포를 가능하게 하였다.
• 1,350개의 소규모 데이터셋으로도 다양한 Ar 이온 에너지와 Ti-Al 조성에서 EAD에 대해 경쟁적인 예측 정확도를 달성하였다.
• 미사용된 스토이키오메트리(x = 0.2, 0.4, 0.8)에 대한 일반화 성능은 내삽 및 외삽 능력이 뛰어나 강력한 전이 가능성(transferability)을 보였다.
• 조건부 β-VAE 아키텍처는 EAD의 구조와 핵심 물리적 입력(이온 에너지 및 조성)을 모두 포함하는 분리된 두 차원의 잠재 공간을 성공적으로 학습하였다.
• 이 방법은 일반화 가능하며, 추가 데이터가 최소한으로 필요한 범위에서 동적 표면 특성이나 더 복잡한 물질 체계로도 확장 가능하다.