[논문 리뷰] Integrating Logical Rules Into Neural Multi-Hop Reasoning for Drug Repurposing

Yushan Liu, Marcel Hildebrandt외 3명|arXiv (Cornell University)|2020. 07. 10.

Advanced Graph Neural Networks참고 문헌 13인용 수 5

한 줄 요약

이 논문은 생물의학 지식 그래프에서 약물 재편용을 위한 강화학습 기반 다단계 추론에 논리 규칙을 통합하는 신경-기호 방법을 제안한다. 정책 기반 경로 탐색에서 메타경로 유도 보상 설계를 사용함으로써, Hetionet에서 최신 기술 성능을 달성하여 hits@1에서 26.6% 향상되고 MRR에서 16.5% 향상되었다.

ABSTRACT

The graph structure of biomedical data differs from those in typical knowledge graph benchmark tasks. A particular property of biomedical data is the presence of long-range dependencies, which can be captured by patterns described as logical rules. We propose a novel method that combines these rules with a neural multi-hop reasoning approach that uses reinforcement learning. We conduct an empirical study based on the real-world task of drug repurposing by formulating this task as a link prediction problem. We apply our method to the biomedical knowledge graph Hetionet and show that our approach outperforms several baseline methods.

연구 동기 및 목표

• 표준 임bedding 기반 방법이 잘 포착하지 못하는 생물의학 지식 그래프의 장거리 의존성 문제를 해결한다.
• Hetionet과 같은 노이즈가 많고 고차수이며 복잡한 생물의학 지식 그래프를 다룰 때 기호 추론과 투명하지 않은 신경 모델의 한계를 극복한다.
• 경로 기반 추론과 논리 규칙 형태의 도메인 지식을 결합함으로써 약물 재편용의 해석 가능성과 성능을 향상시킨다.
• 메타경로를 배경 지식으로 활용하여 다단계 경로 탐색을 안내하는 강화학습 에이전트를 개발한다.
• 신경 추론에 논리 규칙를 통합함으로써 성능을 크게 향상시키면서도 해석 가능성 손실 없이 유지할 수 있음을 입증한다.

제안 방법

• 약물-질병 간 링크 예측을 목적으로 생물의학 지식 그래프에서 정책 기반 무작위 보행을 수행하는 강화학습 에이전트를 훈련한다.
• 사전 정의된 메타경로를 따라 이동할 경우 추가 보상을 제공하는 수정된 보상 함수를 도입함으로써 논리적 배경 지식을 통합한다.
• 추론 시 빔 서치를 사용하여 예측 확률 기반으로 후보 경로를 순위 매김함으로써 알려진 생물학적 패턴과 일치하는 경로에 집중한다.
• 약물 재편용을 Hetionet에서의 링크 예측 과제로 설정하며, 화합물과 질병은 개체이며 '치료한다'는 것이 목표 관계이다.
• 랭킹 중에 알려진 메타경로와 일치하는 경로만 고려하는 프루닝 전략(MINERVA+ (pruned))을 적용하여 일반화 능력과 성능을 향상시킨다.
• 데이터 기반 및 전문가가 도출한 논리 규칙(예: 홉 클라우즈)을 배경 지식으로 활용함으로써 방법의 유연성과 확장성을 확보한다.

실험 결과

연구 질문

• RQ1 강화학습 기반 경로 탐색 에이전트에 논리 규칙를 통합하면 생물의학 지식 그래프에서의 다단계 추론 성능 향상에 기여하는가?
• RQ2 배경 지식으로서의 메타경로 사용이 예측된 약물-질병 연관성의 품질과 일반화 능력에 어떤 영향을 미치는가?
• RQ3 경로 기반 추론과 논리 규칙를 결합한 신경-기호 접근 방식이 순수 임베딩 기반 또는 기호 규칙 기반 방법보다 약물 재편용에서 우월한가?
• RQ4 메타경로 유도 보상은 에이전트가 생물학적으로 의미 있는 추론 경로를 발견하는 데 얼마나 기여하는가?
• RQ5 제안된 방법은 명시적 경로 설명을 통해 고성능를 유지하면서도 해석 가능성을 유지할 수 있는가?

주요 결과

• 제안된 방법인 MINERVA+ (pruned)는 hits@1 점수 0.319를 기록하여 최고의 베이스라인(MINERVA, 0.294) 대비 26.6% 향상되었다.
• 최고 성능 베이스라인 대비 MRR가 16.5% 향상되어 0.416의 점수를 기록하였다.
• 메타경로 유도 보상 사용이 성능 향상에 크게 기여하였으며, MINERVA+ (pruned)는 MINERVA 대비 hits@10에서 3.1% 향상되고 MRR에서 3.9% 향상되었다.
• MINERVA+ (pruned)는 hits@3에서 0.468, hits@10에서 0.628을 기록하여 장꼬리 예측에서 뛰어난 일반화 능력과 강건성을 보였다.
• 모델은 생물학적으로 타당한 예측을 생성한다: 소라페니브에 대해 혈액암, 유방암, 바렛 식도를 상위 후보로 순위 매김하였으며, 이는 임상 시험으로 뒷받침된다.
• Hetionet처럼 고차수이고 복잡한 그래프에서 규칙 추출이 제한적인 AnyBURL과 같은 기호 방법은 성능이 열등하여, 신경-기호 통합의 우수성을 입증한다.