[논문 리뷰] Biomedical Knowledge Graph Refinement with Embedding and Logic Rules

Sendong Zhao, Bing Qin외 2명|arXiv (Cornell University)|2020. 12. 02.

Advanced Graph Neural Networks참고 문헌 23인용 수 7

한 줄 요약

이 논문은 생물의학 지식 그래프(BioKGs)를 개선하기 위해 지식 그래프 임베딩과 지지 및 부정하는 논리 규칙을 함께 학습하는 BioGRER를 제안한다. 이는 교차하는 변동형 기반 EM 알고리즘을 통해 이루어지며, 삼중항의 타당성 평가 성능을 크게 향상시켜, 잡음 감소 및 통합된 임베딩 및 규칙 기반 추론을 통한 갈등 해결을 통해 코로나19 지식 그래프에서 기존 기준보다 뛰어난 성능을 달성한다.

ABSTRACT

Currently, there is a rapidly increasing need for high-quality biomedical knowledge graphs (BioKG) that provide direct and precise biomedical knowledge. In the context of COVID-19, this issue is even more necessary to be highlighted. However, most BioKG construction inevitably includes numerous conflicts and noises deriving from incorrect knowledge descriptions in literature and defective information extraction techniques. Many studies have demonstrated that reasoning upon the knowledge graph is effective in eliminating such conflicts and noises. This paper proposes a method BioGRER to improve the BioKG's quality, which comprehensively combines the knowledge graph embedding and logic rules that support and negate triplets in the BioKG. In the proposed model, the BioKG refinement problem is formulated as the probability estimation for triplets in the BioKG. We employ the variational EM algorithm to optimize knowledge graph embedding and logic rule inference alternately. In this way, our model could combine efforts from both the knowledge graph embedding and logic rules, leading to better results than using them alone. We evaluate our model over a COVID-19 knowledge graph and obtain competitive results.

연구 동기 및 목표

• 빠르게 변화하는 연구, 예를 들어 코로나19 패닉 기간 동안 높은 품질의 생물의학 지식 그래프(BioKGs)가 필요한 상황을 해결하기 위해.
• 정보 추출 오류 및 신뢰할 수 없는 문헌으로 인해 발생하는 BioKG 내 잠재적 잡음과 갈등을 해결하기 위해.
• 관계를 지지하거나 부정하는 논리 규칙과 지식 그래프 임베딩을 융합하여 삼중항의 타당성 평가 성능을 향상시키기 위해.
• 외부 증거 없이도 BioKG의 내부 구조만을 활용하여 자가 통합된 정제 모델을 개발하기 위해.

제안 방법

• 각 삼중항 (h, r, t)에 대해 확률적 타당성 평가 작업으로 BioKG 정제를 공식화한다.
• 지식 그래프 임베딩과 논리 규칙 추론을 번갈아 최적화하기 위해 변동형 기반 EM 알고리즘을 적용한다.
• 지지 규칙(예: 추이성, 대칭성)과 부정 유사 규칙(예: 차단, 갈등)의 두 유형의 논리 규칙을 통합하여 삼중항을 검증하거나 거부한다.
• 학습된 연속적 표현 기반으로 삼중항 타당성 평가 점수를 산출하기 위해 임베딩 모델(예: TransE, DistMult, ComplEx)을 사용한다.
• 예를 들어 'has_gene_product(x,y) ∧ interacts_with(y,z) ⇒ has_gene_product(x,z)=0'와 같은 규칙 패턴을 적용하여 타당하지 않은 삼중항을 탐지한다.
• 규칙 신뢰도와 임베딩 점수를 함께 활용하여 종단 간 학습 프레임워크 내에서 지식 그래프를 통합적으로 정제한다.

실험 결과

연구 질문

• RQ1 지식 그래프 임베딩과 논리 규칙을 융합함으로써 생물의학 지식 그래프 내 삼중항 타당성 평가 정확도를 향상시킬 수 있는가?
• RQ2 지지 규칙(예: 추이성, 대칭성)에 비해 부정 유사 논리 규칙(예: 차단, 갈등)은 BioKG 정제에서 얼마나 효과적인가?
• RQ3 단독으로 임베딩 또는 규칙 기반 방법에 비해 변동형 기반 교차 최적화가 정제 성능 향상에 얼마나 기여하는가?
• RQ4 외부 증거에 의존하지 않고도 모델이 독성 삼중항(즉, 잘못되거나 충돌하는 관계)을 효과적으로 탐지하고 수정할 수 있는가?

주요 결과

• 제안된 BioGRER 모델은 경쟁 기준 대비 독성 삼중항 탐지 성능을 크게 향상시켰으며, TransE를 사용할 경우 대규모 테스트 세트에서 F-스코어 42.06을 달성했다.
• 논리 규칙의 통합은 일관되게 성능 향상에 기여하였으며, 특히 '차단' 규칙이 지지 규칙보다 더 효과적인 것으로 나타났다.
• '차단' 규칙은 모든 임베딩 기준이 참으로 잘못 예측한 삼중항 (MKRN3 유전자, has_gene_product, NPTX1 인간 단백질)을 성공적으로 부정하였다.
• '갈등' 규칙는 생물학적으로 타당하지 않은 관계로 인해 잘못된 것으로 밝혀진 삼중항 (모르핀 대사 과정, has_primary_output, 모르핀)을 효과적으로 거부하였다.
• 모델은 TransE, DistMult, ComplEx 등 다양한 지식 그래프 임베딩 모델에 대해 뛰어난 내재적 안정성을 보였으며, 일관된 성능을 유지하였다.
• 사례 연구를 통해 추이성 및 대칭성 규칙은 타당성 검증을 향상시키는 반면, 규칙 기반 부정은 임베딩만으로는 발견하지 못하는 생물학적으로 비타당한 관계를 해결하는 데 효과적임을 확인하였다.