[논문 리뷰] MatKG: The Largest Knowledge Graph in Materials Science -- Entities, Relations, and Link Prediction through Graph Representation Learning

Vineeth Venugopal, Sumit Pai외 1명|arXiv (Cornell University)|2022. 10. 31.

Machine Learning in Materials Science인용 수 7

한 줄 요약

MatKG는 400만 페퍼를 기반으로 LLM 기반 NER와 통계적 공출현을 사용해 자동으로 구축된 8만 개의 재료 과학 엔티티와 200만 개의 관계를 포함한 지식 그래프이다. 이는 지식 그래프 임bedding(TransE, MRR=0.49)을 통해 확장 가능한 지식 검색, 엔티티의 의미 해석, 링크 예측을 가능하게 하며, 상위 예측의 47%가 '좁은' 의미적 매칭으로 평가되어 새로운 재료-성질-응용 관계를 발견한다.

ABSTRACT

This paper introduces MatKG, a novel graph database of key concepts in material science spanning the traditional material-structure-property-processing paradigm. MatKG is autonomously generated through transformer-based, large language models and generates pseudo ontological schema through statistical co-occurrence mapping. At present, MatKG contains over 2 million unique relationship triples derived from 80,000 entities. This allows the curated analysis, querying, and visualization of materials knowledge at unique resolution and scale. Further, Knowledge Graph Embedding models are used to learn embedding representations of nodes in the graph which are used for downstream tasks such as link prediction and entity disambiguation. MatKG allows the rapid dissemination and assimilation of data when used as a knowledge base, while enabling the discovery of new relations when trained as an embedding model.

연구 동기 및 목표

• 재료 과학의 核심 개념인 화학, 구조, 성질, 응용, 합성, 특성 분석을 포함한 재료 패러다임 전반에 걸쳐 통합된 포괄적이고 대규모 지식 그래프를 구축하기 위해.
• 기존의 데이터 저장 방식과 수동 온톨로지 생성의 한계를 극복하기 위해 과학 문헌에서 자동으로 확장 가능한 지식 추출을 가능하게 하기 위해.
• 학습된 지식 그래프 임bedding를 통해 링크 예측 및 엔티티 의미 해석과 같은 후행 AI 작업을 가능하게 하기 위해.
• 사전에 정의된 척도와 해상도에서 높은 수준의 통합적이고 질의 준비가 된 재료 지식 분석을 가능하게 하기 위해.
• 숨겨진 또는 암묵적인 관계를 문헌에서 발견함으로써 AI 가이드된 재료 설계, 자동 합성 및 특성 분석을 지원하기 위해.

제안 방법

• 재료 과학에 특화된 미세조정된 MatBERT 기반 모델을 사용한 명시적 엔티티 인식(NER)을 통해 화학(CHA), 성질(PRO), 응용(APL), 합성(SYN), 특성 분석(CMT), 묘사자(DSC), 대칭/상(SPL)의 7개 카테고리에 걸쳐 8만 개의 고유 엔티티를 추출한다.
• 엔티티 쌍 간의 통계적 공출현 맵핑을 통해 관계를 유추하며, 빈도와 텍스트 내 거리 기반 가중치를 계산하여 관계 삼중항 <주어, 서술어, 목적어>를 형성한다.
• 사전 정의된 임계값을 사용한 관계 필터링을 통해 16만 개의 고신뢰성 링크를 생성하거나, 모든 가중 관계를 유지하여 8만 개의 엔티티를 포함한 200만 개의 삼중항을 생성한다.
• 150차원의 TransE를 사용한 지식 그래프 임베딩(KGE)으로, AmpliGraph 라이브러리를 활용해 테스트 세트에서 MRR 및 hits@1,10,100 지표를 사용해 훈련 및 평가한다.
• 임베딩 벡터 유사도를 통한 엔티티 유사성 및 공통 참조 해결을 통해 의미적으로 동일하지만 어휘적으로 다른 용어의 의미 해석을 가능하게 한다.
• 학습된 KGE 모델을 활용한 링크 예측을 통해 존재하는 엔티티 간에 새로운 타당한 관계를 유추하며, SKOS 기반 의미 계층 구조(좁은/넓은 매칭)를 사용해 예측 결과를 수동으로 검증한다.

실험 결과

연구 질문

• RQ1 대규모 언어 모델 기반 자동 파ip라인은 과학 문헌에서 대규모로 재료 과학 지식을 효과적으로 추출하고 구조화할 수 있는가?
• RQ2 문헌 유래 관계에서 학습된 지식 그래프 임베딩은 재료 과학 분야에서 정확한 링크 예측 및 엔티티 의미 해석을 얼마나 잘 수행할 수 있는가?
• RQ3 예측된 관계는 실제 재료 과학 맥락에서 확립된 의미 계층 구조(SKOS의 좁은/넓은 관계)와 얼마나 잘 일치하는가?
• RQ4 결과로 도출된 지식 그래프는 재료의 구조-성질-처리-응용 관계를 종합적으로 질의 준비가 된 방식으로 분석하는 데 기여하는가?
• RQ5 이 지식 그래프는 훈련 데이터에 명시적으로 기재되지 않은 새로운 타당한 재료 응용 또는 성질을 발견하는 데 유용한가?

주요 결과

• MatKG는 8만 개의 고유 엔티티에서 유래한 200만 개 이상의 고유한 관계 삼중항을 포함하며, 모든 재료 과학의 핵심 분야를 아우르는 이원적이고 이질적인 지식 그래프를 형성한다.
• TransE 모델은 테스트 세트에서 최고의 MRR(0.49)를 기록하여 링크 예측 및 엔티티 의미 해석과 같은 후행 작업에 최적의 KGE로 입증되었다.
• 모델이 내보낸 상위 3개 링크 예측 중 47%가 SKOS의 '좁은' 의미 매칭으로 평가되어 기존 온톨로지 관계와 강한 일치를 보였다.
• 29%의 예측은 '넓은' 매칭으로 평가되었으며, 나머지는 '기타'로 분류되어 모델이 어휘 유사성 외에도 의미적으로 유의미한 관계를 포착하고 있음을 시사한다.
• 임베딩 기반 유사도 분석을 통해 의미 수렴이 확인되었으며, 예를 들어 'qspr'와 'quantitative structure property relationship' 간의 유사도 점수는 0.90으로 의미적으로 동일시됨을 나타낸다.
• 모델은 비스무트 telluride와 같은 재료의 이전에 비어 있던 부분 그래프를 성공적으로 채워내어 응용 및 특성 분석 부분 그래프에 타당하고 의미 있는 엔티티를 추가하였다.