[논문 리뷰] Hierarchical Graph-to-Graph Translation for Molecules

Wengong Jin, Regina Barzilay외 1명|arXiv (Cornell University)|2019. 06. 11.

Computational Drug Discovery Methods참고 문헌 50인용 수 28

한 줄 요약

이 논문은 분자 최적화를 위한 완전히 순차적이고 계층적인 그래프에서 그래프로의 번역 모델인 HierG2G를 제안한다. 이 모델은 다중 해상도 프레임워크에서 서브스트럭처와 그들의 결합을 동시에 예측하며, 서브스트럭처 생성과 연결 해석을 번갈아가며 수행한다. 또한 다중 수준 인코더를 사용하여 상태의 기술적 성능을 달성하며, QED 및 DRD2 작업에서 각각 3.3%와 8.1% 향상된 성능을 기록했고, 이전의 서브스트럭처 기반 방법보다 6.3배 빠르게 작동한다.

ABSTRACT

The problem of accelerating drug discovery relies heavily on automatic tools to optimize precursor molecules to afford them with better biochemical properties. Our work in this paper substantially extends prior state-of-the-art on graph-to-graph translation methods for molecular optimization. In particular, we realize coherent multi-resolution representations by interweaving the encoding of substructure components with the atom-level encoding of the original molecular graph. Moreover, our graph decoder is fully autoregressive, and interleaves each step of adding a new substructure with the process of resolving its attachment to the emerging molecule. We evaluate our model on multiple molecular optimization tasks and show that our model significantly outperforms previous state-of-the-art baselines.

연구 동기 및 목표

• 기존 그래프에서 그래프로의 번역 모델이 서브스트럭처와 연결 결정 간 순차적 종속성이 부족한 점을 해결하기 위해.
• 생성 단계를 계층적으로 분해하여 연결 수 나열의 조합 폭발을 방지함으로써 추론 효율성을 향상시키기 위해.
• 번역 과정 중에 원하는 화학적 성질을 입력 기준으로 포함시켜 조건부 분자 생성을 가능하게 하기 위해.
• 해당 계층적 추론 과정과 일치하는 원자 수준 및 서브스트럭처 수준의 표현을 캡처하는 다중 해상도 인코딩 체계를 개발하기 위해.
• 희귀 성질 조합을 포함한 제한된 데이터로 훈련된 경우에도 조건부 번역의 일반화 능력을 입증하기 위해.

제안 방법

• 모델은 세 단계의 계층적 인코더를 사용한다: 원자 수준의 그래프 컨볼루션, 서브스트럭처 수준의 메시지 전파, 연결 수준의 어텐션으로 다중 해상도 표현 학습을 가능하게 한다.
• 디코더는 완전히 순차적이며, (어디에 확장할지, 새로운 서브스트럭처 유형, 그들의 연결점)의 삼중조 예측을 통해 분자를 생성한다.
• 각 단계에서 서브스트럭처 및 연결 예측을 번갈아 수행함으로써, 향후 서브스트럭처 선택을 이전 연결 결정에 조건화할 수 있다.
• 인코더는 세 가지 해상도에서 분자를 처리한다: 원자, 서브스트럭처(접합수 나무를 통해), 연결 점으로, 수준 간 어텐션을 통해 일관성을 유지한다.
• 조건부 번역은 QED, DRD2와 같은 목표 성질 벡터를 디코더에 조건화하여, 타겟 최적화를 가능하게 한다.
• 아키텍처는 인코더와 디코더 양쪽 모두에 LSTM 기반 메시지 전파 네트워크(MPN)를 사용하며, 수준 간 정보 통합을 위해 계층적 어텐션을 활용한다.

실험 결과

연구 질문

• RQ1 서브스트럭처와 연결 예측을 번갈아가며 수행하는 완전한 순차적 디코더가 단계별 접근 방식보다 분자 그래프 생성 성능을 향상시킬 수 있는가?
• RQ2 다중 해상도 인코딩이 다양한 화학적으로 타당한 분자를 생성하는 데 모델의 능력을 어떻게 향상시키는가?
• RQ3 제한된 데이터로 희귀한 성질 조합을 포함한 경우 조건부 번역이 얼마나 잘 일반화되는가?
• RQ4 원자 수준 또는 접합수 나무 전용 디코딩보다 계층적 구조 기반 디코딩이 정확도와 효율성 측면에서 뛰어나게 되는가?
• RQ5 계층적 인코딩과 순차적 디코딩과 같은 아키텍처 구성 요소가 분자 최적화 작업에서 성능 향상에 기여하는 정도는 어떠한가?

주요 결과

• HierG2G는 QED 최적화 작업에서 76.9%의 성공률을 기록하여 이전 최고 성능 모델인 JTNN(59.9%)보다 17个百分点 향상되었다.
• DRD2 최적화 작업에서는 85.9%의 성공률을 기록했으며, JTNN 대비 10.9% 향상되었고, AtomG2G 기준 10.4% 향상되었다.
• 디코딩 중 HierG2G는 JTNN 방법 대비 6.3배 더 빠르게 작동한다. 이는 생성 단계의 효율적 계층적 분해 덕분이다.
• 조건부 번역에서 HierG2G는 가장 제약이 강한 조건(즉, QED 및 DRD2)에서 13.0%의 성공률을 기록했으며, 이는 둘 다 만족하는 쌍이 1.6%에 불과한 데이터로부터 효과적으로 일반화된 것으로 확인되었다.
• 제거 실험 결과 계층적 인코딩과 구조 기반 디코딩이 핵심임을 확인했다: 상위 서브스트럭처 레이어를 제거하면 DRD2에서 성능이 2.4% 감소했고, 계층적 디코딩을 원자 수준 디코딩으로 대체하면 DRD2에서 성능이 10.9% 감소했다.