[논문 리뷰] GraphPiece: Efficiently Generating High-Quality Molecular Graph with Substructures.

Xiangzhe Kong, Zhixing Tan외 1명|arXiv (Cornell University)|2021. 06. 29.

Machine Learning in Materials Science참고 문헌 35인용 수 5

한 줄 요약

이 논문은 기존 분자의 가시성에서 재사용 가능한 부분 구조—즉, 그래프 조각(graph pieces)을 학습한 후, 두 단계인 조각 수준의 구축과 결합 완성 단계를 거쳐 고품질의 분자 그래프를 생성하는 변동형 오토인코더(GraphPiece)를 제안한다. 이 방법은 계산 효율성이 향상된 상태에서 성능 최고 수준의 성능을 달성한다.

ABSTRACT

Molecular graph generation is a fundamental but challenging task in various applications such as drug discovery and material science, which requires generating valid molecules with desired properties. Auto-regressive models, which usually construct graphs following sequential actions of adding nodes and edges at the atom-level, have made rapid progress in recent years. However, these atom-level models ignore high-frequency subgraphs that not only capture the regularities of atomic combination in molecules but also are often related to desired chemical properties. In this paper, we propose a method to automatically discover such common substructures, which we call {\em graph pieces}, from given molecular graphs. Based on graph pieces, we leverage a variational autoencoder to generate molecules in two phases: piece-level graph generation followed by bond completion. Experiments show that our graph piece variational autoencoder achieves better performance over state-of-the-art baselines on property optimization and constrained property optimization tasks with higher computational efficiency.

연구 동기 및 목표

• 분자 그래프에서 빈번하게 나타나는 화학적으로 의미 있는 부분 구조를 포괄하지 못하는 원자 수준의 순차적 모델의 한계를 해결하기 위해.
• 분자 내에서 공통적인 원자 조합 패턴을 인코딩하는 반복되는 부분그래프—즉, '그래프 조각'으로 불리는 것을 발견하기 위해.
• 이러한 그래프 조각을 두 단계 생성 과정에서 빌딩 블록으로 활용하여 분자 그래프 생성을 향상시키기 위해.
• 특히 성능 최적화 작업에서 생성 품질과 계산 효율성을 향상시키기 위해.
• 구조적이고 부분구조 인식 기반의 생성 방식을 통해 원하는 화학적 성질에 대한 더 나은 제어를 가능하게 하기 위해.

제안 방법

• 서브그래프 마이닝 기법을 사용하여 분자 그래프 집합에서 빈번하고 고빈도의 서브그래프(그래프 조각)를 자동으로 탐지한다.
• 각 분자를 그래프 조각의 시퀀스로 표현하여 생성 과정에서 시퀀스 모델링이 가능하도록 한다.
• 그래프 조각 시퀀스의 잠재 표현을 학습하기 위해 변동형 오토인코더(VAE)를 훈련한다.
• 생성을 두 단계로 분해한다: 먼저 그래프 조각의 시퀀스를 생성하고, 그 다음에 결합을 완성하여 유효한 분자를 형성한다.
• 생성된 그래프 조각 시퀀스에서 분자를 재구성하고, 결합 완성 과정을 통해 구조를 보완하기 위해 그래프 신경망을 사용한다.
• 재파rameterization 기법과 재구성 오차 및 KL 발산을 조합한 손실 함수를 사용하여 VAE를 최적화하여 안정적인 훈련을 달성한다.

실험 결과

연구 질문

• RQ1 자동으로 탐지된 그래프 조각이 원자 수준의 순차적 모델에 비해 분자 그래프 생성의 품질과 효율성에 기여하는가?
• RQ2 두 단계 생성 전략—즉, 조각 수준 생성 후 결합 완성—은 분자 유효성과 성능 최적화에 어떤 영향을 미치는가?
• RQ3 그래프 조각은 모델이 원하는 화학적 성질을 지닌 분자를 생성하는 데 얼마나 높은 능력을 향상시키는가?
• RQ4 제안된 방법은 제약 조건이 있는 성능 최적화 작업에서 기존 최고 성능 모델보다 더 뛰어난 성능을 달성하는가?
• RQ5 기존 원자 수준의 생성 방식에 비해 그래프 조각을 사용할 경우 계산 효율성은 얼마나 향상되는가?

주요 결과

• GraphPiece 모델은 성능 최적화 및 제약 조건이 있는 성능 최적화 벤치마크에서 모두 최고 성능을 달성한다.
• 구조적이고 부분구조 기반의 생성 과정 덕분에 기존 원자 수준의 순차적 모델보다 높은 계산 효율성을 보인다.
• 그래프 조각의 사용은 생성된 분자의 유효성과 신규성 점수 향상으로 인해 더 높은 생성 품질을 보여준다.
• 두 단계 생성 전략—먼저 그래프 조각을 생성하고, 그 다음에 결합을 완성하는 방식—은 더 안정적이고 화학적으로 타당한 분자를 생성한다.
• 모델는 종종 원하는 화학적 성질과 연관된 반복되는 부분구조를 효과적으로 포착하여 성질 제어 능력을 향상시킨다.
• 그래프 조각 표현을 사용하는 변동형 오토인코더는 더 분리되고 의미 있는 잠재 공간을 학습하여 생성 다양성과 제어 가능성 향상을 달성한다.