[논문 리뷰] Precursor recommendation for inorganic synthesis by machine learning materials similarity from scientific literature

Tanjin He, Haoyan Huo외 4명|arXiv (Cornell University)|2023. 02. 05.

Machine Learning in Materials Science인용 수 4

한 줄 요약

이 논문은 29,900건의 문헌 유도 합성 레시피에서 유사성을 학습함으로써 무기 고체상 합성에 적합한 원료 물질을 추천하는 기계학습 프레임워크를 제안한다. 자기지도 학습 신경망을 사용해 물질 조성을 인코딩하는 방법으로, 2,654개의 미리보지 않은 목표 물질에 대해 82%의 성공률을 달성하여 수십 년에 걸친 경험적 합성 지식을 확장 가능하고 데이터 기반의 형태로 효과적으로 포괄한다.

ABSTRACT

Synthesis prediction is a key accelerator for the rapid design of advanced materials. However, determining synthesis variables such as the choice of precursor materials is challenging for inorganic materials because the sequence of reactions during heating is not well understood. In this work, we use a knowledge base of 29,900 solid-state synthesis recipes, text-mined from the scientific literature, to automatically learn which precursors to recommend for the synthesis of a novel target material. The data-driven approach learns chemical similarity of materials and refers the synthesis of a new target to precedent synthesis procedures of similar materials, mimicking human synthesis design. When proposing five precursor sets for each of 2,654 unseen test target materials, the recommendation strategy achieves a success rate of at least 82%. Our approach captures decades of heuristic synthesis data in a mathematical form, making it accessible for use in recommendation engines and autonomous laboratories.

연구 동기 및 목표

• 실험 연구자들이 일반적으로 유사한 물질을 검색하여 기존 레시피를 재사용하는 문헌 기반 합성 설계 과정을 자동화하기 위해.
• 대량의 텍스트 마이닝을 통한 합성 레시피에서 유도된 무기 물질 간의 화학적 유사성을 학습하여 데이터 기반 원료 추천을 가능하게 하기 위해.
• 자율 실험실 및 추천 시스템에서 사용할 수 있는 수학적이고 재사용 가능한 형태로, 수십 년에 걸친 경험적 합성 지식을 포괄하는 확장 가능하고 일반화 가능한 방법을 개발하기 위해.
• 2,654개의 새로운 목표 물질을 포함한 역사적으로 분할된 대규모 테스트 세트에서 성능을 평가하여, 사례 연구를 넘어서 강건성과 일반화 능력을 확보하기 위해.

제안 방법

• 자기지도 학습 신경망(PrecursorSelector 인코딩)을 사용해 원료 조성 기반의 물질 표현을 벡터화된 형태로 학습함으로써 물질 유사성의 정량화를 가능하게 한다.
• 학습된 임bedding 간의 코사인 유사도를 사용해 물질 유사성을 계산함으로써 유사한 합성 경로를 가진 사전 지식이 있는 물질을 식별할 수 있다.
• 원료 추천 전략은 지식 기반에서 가장 유사한 알려진 물질을 선택하고, 그 물질의 원료를 신규 목표 물질에 대해 추천함으로써 인간의 유사성 추론 방식을 모방한다.
• 다중 작업 신경망으로 학습하며, 원료 선택과 물질 표현 학습을 동시에 최적화하기 위해 적응형 손실 가중치를 적용한다.
• 기준 모델로는 '가장 흔한'(실험적 확률), 'Magpie 인코딩'(132개 원소 성질 통계), 'FastText 인코딩'(물질 텍스트에서 유도된 100D 단어 임베딩), '원시 조성'(83D 원소 분율 벡터)이 포함된다.
• 데이터는 출판 연도 기반으로 분할되며(학습: ≤2014, 검증: 2015–2016, 테스트: 2017–2020), 반복된 물질 보고서로 인한 데이터 泄露를 방지하기 위해 원형 공식이 사용된다.

실험 결과

연구 질문

• RQ1 기계학습 모델은 문헌에서 추출한 합성 레시피로부터 유사성을 효과적으로 학습하여 신규 무기 물질의 원료 선택을 안내할 수 있는가?
• RQ2 원료 조성의 신경망 기반 표현 방식은 기존의 화학 인코딩 방법(예: Magpie, FastText, 원시 조성)에 비해 원료 추천 정확도에서 어떻게 비교되는가?
• RQ3 데이터 기반의 유사성 기반 접근 방식은 실험 화학자들이 원료 선택 시 사용하는 경험적 추론을 어느 정도 재현할 수 있는가?
• RQ4 2,654개의 대규모 역사적 미리보지 않은 테스트 세트에서 원료 추천의 성공률은 얼마인가?

주요 결과

• 제안된 방법은 2,654개의 미리보지 않은 목표 물질에 대해 최소 82%의 성공률을 기록하며 기준 모델들을 크게 능가한다.
• 원료 조성에서 학습하는 PrecursorSelector 인코딩 방법은 Magpie, FastText, 원시 조성과 같은 전통적 인코딩 방법보다 원료 추천 정확도에서 뛰어나다.
• 학습 중에 볼 수 없었던 새로운 물질에 대해서도 모델이 잘 일반화됨을 2017~2020년 동안 출판된 1,992개의 물질로 구성된 테스트 세트를 통해 검증하였다.
• 원료 조성에 대해 자기지도 학습을 적용함으로써 원소 성질만으로는 드러나지 않는 합성 지식의 복잡한 비선형 관계를 포착할 수 있었다.
• 적응형 손실 가중치를 적용한 다중 작업 학습 프레임워크는 원료 선택과 표현 학습 간의 균형을 효과적으로 유지하여 종합적인 추천 성능을 향상시켰다.
• 과학 문헌에서 유도된 수십 년에 걸친 경험적 합성 지식을 수학적 형태로 효과적으로 인코딩하여 AI 기반 합성 계획 및 자율 실험실 시스템에서 활용 가능한 형태로 변환하였다.