[논문 리뷰] Deeply learning molecular structure-property relationships using attention- and gate-augmented graph convolutional network

Seongok Ryu, Jaechang Lim외 2명|arXiv (Cornell University)|2018. 05. 28.

Machine Learning in Materials Science참고 문헌 53인용 수 80

한 줄 요약

본 논문은 주의(attention)와 게이트 스킵 연결을 통합하여 분자 특성 예측을 위한 그래프 컨볼루션 네트워크(GCN)를 향상시키고 특징 추출 및 잠재 공간 구성를 개선합니다.

ABSTRACT

Molecular structure-property relationships are key to molecular engineering for materials and drug discovery. The rise of deep learning offers a new viable solution to elucidate the structure-property relationships directly from chemical data. Here we show that the performance of graph convolutional networks (GCNs) for the prediction of molecular properties can be improved by incorporating attention and gate mechanisms. The attention mechanism enables a GCN to identify atoms in different environments. The gated skip-connection further improves the GCN by updating feature maps at an appropriate rate. We demonstrate that the resulting attention- and gate-augmented GCN could extract better structural features related to a target molecular property such as solubility, polarity, synthetic accessibility and photovoltaic efficiency compared to the vanilla GCN. More interestingly, it identified two distinct parts of molecules as essential structural features for high photovoltaic efficiency, and each of them coincided with the areas of donor and acceptor orbitals for charge-transfer excitations, respectively. As a result, the new model could accurately predict molecular properties and place molecules with similar properties close to each other in a well-trained latent space, which is critical for successful molecular engineering.

연구 동기 및 목표

• 구조로부터 분자 특성 예측을 개선하기 위해 GCN을 이용하도록 동기를 부여한다.
• 다른 환경에 있는 원자를 식별하기 위해 주의 메커니즘을 도입한다.
• 적절한 속도로 피처 맵 업데이트를 제어하기 위해 게이트 증강 스킵 연결을 도입한다.
• vanilla GCN보다 모델이 구조-특성 관계를 더 효과적으로 포착함을 입증한다.

제안 방법

• 원자 환경을 강조하기 위해 주의 메커니즘으로 그래프 컨볼루션 네트워크를 확장한다.
• 피처 맵 업데이트를 제어하기 위해 게이트 보강 스킵 연결을 추가한다.
• solubility, polarity, synthetic accessibility, photovoltaic efficiency 등의 특성을 예측하기 위해 분자 데이터를 사용한다.
• 잠재 공간을 분석해 비슷한 특성을 가진 분자들이 클러스터링되는지 보여준다.
• 고효율의 광전 특성과 관련된 구조적 부분을 식별하고 이를 기부자/수용자 오비탈 영역과 연관시킨다.

실험 결과

연구 질문

• RQ1 GCN의 주의가 대상 분자 특성에 관련된 원자 환경 식별에 도움이 될 수 있는가?
• RQ2 게이트 보강 스킵 연결이 vanilla GCN보다 학습 역학 및 예측 성능을 개선하는가?
• RQ3 모델이 용해도, 극성, 합성 용이성, 광전 효율과 같은 특성과 상관된 의미 있는 구조적 특징을 추출하는가?
• RQ4 학습된 표현이 유사한 특성을 가진 분자들을 잠재 공간에서 가깝게 배치하는가?
• RQ5 기능적 영역(예: 기부자/수용자 영역)에 대응하는 해석 가능한 부분 구조가 특정 특성을 주도하는가?

주요 결과

• 주의 및 게이트 보강 GCN이 바닐라 GCN보다 표적 분자 특성을 더 잘 예측한다.
• 모델이 용해도, 극성, 합성 용이성, 광전 효율에 더 관련된 구조적 특징을 추출한다.
• 고광전 효율을 달성하는 두 개의 뚜렷한 분자 부위를 식별하고 이는 기부자 및 수용자 오비탈 영역과 일치한다.