[논문 리뷰] Study of Deep Generative Models for Inorganic Chemical Compositions

Yoshihide Sawada, Koji Morikawa외 1명|arXiv (Cornell University)|2019. 10. 25.

Machine Learning in Materials Science참고 문헌 33인용 수 13

한 줄 요약

이 논문은 결정 구조 데이터에 의존하지 않고, 물리적 특성 기반 기술자를 포함한 원자 집합 표현 방식을 사용하여 무기 화학 조성의 생성을 위한 조건부 VAE 및 GAN 모델을 제안한다. 물리적 특성 기반 기술자(CondGAN($$\mathbf{x}^{bp}$)$)를 사용한 조건부 GAN이 목표 물리적 특성을 갖춘 유효한 조성을 생성하는 데 가장 뛰어난 성능을 보이며, 메트로폴리스-해스팅스 기반의 화학 валence 보정은 생성 품질을 저하시키지 않은 채 화학적 타당성을 향상시킨다.

ABSTRACT

Generative models based on generative adversarial networks (GANs) and variational autoencoders (VAEs) have been widely studied in the fields of image generation, speech generation, and drug discovery, but, only a few studies have focused on the generation of inorganic materials. Such studies use the crystal structures of materials, but material researchers rarely store this information. Thus, we generate chemical compositions without using crystal information. We use a conditional VAE (CondVAE) and a conditional GAN (CondGAN) and show that CondGAN using the bag-of-atom representation with physical descriptors generates better compositions than other generative models. Also, we evaluate the effectiveness of the Metropolis-Hastings-based atomic valency modification and the extrapolation performance, which is important to material discovery.

연구 동기 및 목표

• 자주 저장되지 않는 결정 구조 데이터를 요구하지 않고 무기 화학 조성을 생성할 수 있는 딥 생성 모델을 개발하는 것.
• 목표 물리적 특성을 갖는 조성을 생성하는 데 있어 조건부 GAN과 VAE의 효과를 평가하며, 유효성과 외삽 능력을 중점으로 한다.
• 메트로폴리스-해스팅스 기반 수정 방법을 통해 원자 화학 밸런스 제약 조건을 강제하여 화학적 타당성을 향상시키는 것.
• 역설계를 위한 핵심 요소인 학습 데이터 범위를 초월한 물리적 특성에 대한 외삽 성능을 평가하는 것.
• 무기 조성 생성에 있어 최적의 데이터 표현 방식(원자 집합 대비 원자 집합에 물리적 특성 기술자를 추가한 방식)을 규명하는 것.

제안 방법

• 목표 물리적 특성에 조건부로 작동하는 조건부 변분 오토에인식기(CondVAE)와 조건부 GAN(CondGAN)을 사용하여 무기 조성을 생성한다.
• 조성 빈도를 인코딩하기 위해 원자 집합 표현($\mathbf{x}^b$)을 사용하고, 원자 수준의 물리적 특성을 포함한 원자 집합과 물리적 특성 기술자 조합($\mathbf{x}^{bp}$)을 사용한다.
• 생성된 조성에서 원자 화학 밸런스 불균형을 반복적으로 수정하기 위해 메트로폴리스-해스팅스 기반 알고리즘을 적용하여 화학적 타당성을 향상시킨다.
• 60,000개 이상의 무기 조성을 포함한 Materials Project 데이터셋을 사용하여 모델을 훈련한다.
• 예측된 물리적 특성과 실제 값 간의 MAE 및 RMSE를 사용하여 생성 성능을 평가하고, 밸런스 위반 수와 조성 간 거리를 측정한다.
• 외삽 성능 평가를 위해 학습/테스트 분할 비율을 변화시켜 학습 범위를 초월한 물리적 특성에서의 성능을 테스트한다.

실험 결과

연구 질문

• RQ1 원자 수 외에 물리적 특성 기술자를 포함한 입력 표현 방식을 사용할 경우, 단순히 원자 수만을 사용하는 것보다 무기 조성 생성 품질이 향상되는가?
• RQ2 물리적 특성 기술자를 포함한 조건부 GAN은 목표 물리적 특성에 가까운 동시에 화학적으로 유효한 조성을 생성할 수 있는가?
• RQ3 메트로폴리스-해스팅스 기반의 화학 밸런스 보정은 생성 성능을 저하시키지 않은 채 밸런스 위반 수를 얼마나 효과적으로 줄이는가?
• RQ4 생성 모델은 학습 데이터의 물리적 특성 범위를 초월하여 얼마나 잘 외삽하는가?
• RQ5 CondVAE와 CondGAN 중에서 유효하고 목표 물리적 특성을 갖춘 무기 조성을 생성하는 데 가장 우수한 성능을 보이는 모델은 무엇인가?

주요 결과

• 원자 집합과 물리적 특성 기술자를 포함한 표현 방식을 사용한 CondGAN(CondGAN($\mathbf{x}^{bp}$))이 가장 낮은 MAE(0.12 ± 0.00)와 RMSE(0.20 ± 0.01)를 기록하여 다른 모델들을 압도적으로 능가한다.
• 메트로폴리스-해스팅스 기반의 화학 밸런스 보정은 평균 밸런스 위반 수를 1.02 ± 0.52에서 0.19 ± 0.24로 크게 감소시켜 화학적 타당성을 향상시켰다.
• 보정은 생성 성능을 유지하였으며, RMSE는 약간 증가(0.70 ± 0.18 vs. 0.70 ± 0.26)하고, 가장 가까운 유효한 조성과의 거리는 뚜렷이 감소(1.63 ± 0.33 vs. 2.49 ± 0.78)하였다.
• 모델의 외삽 능력은 제한적이었다: 목표 물리적 특성이 학습 범위에서 멀어질수록 성능이 저하되었으며, 이는 더 넓은 학습 데이터나 강화 학습이 필요함을 시사한다.
• 입력 표현에 물리적 특성 기술자를 포함시킬 경우, 단순히 원자 수만을 사용하는 것보다 유의미하게 더 뛰어난 생성 성능을 달성한다.
• 일부 조성(예: Gd0.06Tb0.74Ac0.19 및 Al0.10Ho0.90)은 MH 보정 후에도 여전히 불균형한 상태로 남아 있어 현재 보정 범위의 한계를 보여준다.