[논문 리뷰] PRGC: Potential Relation and Global Correspondence Based Joint Relational Triple Extraction

Hengyi Zheng, Rui Wen외 8명|arXiv (Cornell University)|2021. 06. 18.

Topic Modeling참고 문헌 31인용 수 12

한 줄 요약

PRGC는 관계 기반 삼중항 추출 작업을 잠재적 관계 예측, 관계별 시퀀스 태깅, 전역 대응 기반 주어·술어 정렬의 세 가지 하위 작업으로 분해하는 혁신적인 공동 관계 삼중항 추출 프레임워크를 제안한다. 잠재적인 관계만 예측하고 전역 대응 행렬을 사용함으로써, 중첩된 삼중항 시나리오에서 기존의 SOTA 모델인 TPLinker와 CasRel을 초월하는 F1 점수와 추론 속도를 달성하며, 더 높은 효율성과 강건성을 확보한다.

ABSTRACT

Joint extraction of entities and relations from unstructured texts is a crucial task in information extraction. Recent methods achieve considerable performance but still suffer from some inherent limitations, such as redundancy of relation prediction, poor generalization of span-based extraction and inefficiency. In this paper, we decompose this task into three subtasks, Relation Judgement, Entity Extraction and Subject-object Alignment from a novel perspective and then propose a joint relational triple extraction framework based on Potential Relation and Global Correspondence (PRGC). Specifically, we design a component to predict potential relations, which constrains the following entity extraction to the predicted relation subset rather than all relations; then a relation-specific sequence tagging component is applied to handle the overlapping problem between subjects and objects; finally, a global correspondence component is designed to align the subject and object into a triple with low-complexity. Extensive experiments show that PRGC achieves state-of-the-art performance on public benchmarks with higher efficiency and delivers consistent performance gain on complex scenarios of overlapping triples.

연구 동기 및 목표

• 기존의 공동 관계 삼중항 추출 방법의 한계, 즉 불필요한 관계 예측, 스팬 기반 엔티티 추출의 낮은 일반화 능력, 비효율적인 주어·술어 정렬을 해결하기 위해.
• 성능 향상과 모듈화를 위해 작업을 관계 판단, 엔티티 추출, 주어·술어 정렬의 세 하위 작업으로 분해하기 위해.
• 중복 엔티티와 관계를 포함한 복잡한 시나리오에서 모델의 효율성과 강건성을 향상시키기 위해.
• 모든 가능한 관계가 아닌 잠재적인 관계만 예측함으로써 계산 복잡도를 감소시키기 위해.
• 노출 오차와 히우리스틱 제약 조건을 피하기 위해 관계에 독립적인 전역 대응 행렬을 통해 정렬 정확도를 향상시키기 위해.

제안 방법

• 각 문장에 대해 관련 관계의 부분집합을 식별하는 잠재적 관계 예측 컴포넌트를 도입하여 부작용과 계산 비용을 감소시킨다.
• 각 예측된 관계에 대해 주어와 술어를 추출하기 위해 관계별 시퀀스 태깅을 활용하여 병렬 처리를 가능하게 하고 중첩 스팬에 대한 처리를 향상시킨다.
• 모든 주어·술어 쌍 간의 대응 점수를 관계에 독립적으로 계산하는 전역 대응 행렬을 설계하여 효율적이고 정확한 정렬을 가능하게 한다.
• 연쇄 추론 파이프라인을 사용: 먼저 잠재적 관계를 예측하고, 그 다음 각 관계별로 엔티티를 추출한 후, 마지막으로 전역 대응 행렬을 사용해 쌍을 정제한다.
• 노출 오차를 방지하고 배치 처리를 지원하는 단일 단계, 종단 간 아키텍처를 활용하여 추론 속도와 확장성을 향상시킨다.
• 스패닝 기반 분류가 아닌 관계별로 시퀀스 태깅 체계를 적용하여 일반화 능력과 복잡한 엔티티 패턴에 대한 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 공동 관계 삼중항 추출 프레임워크는 성능을 유지하거나 향상시키면서도 관계 예측의 부작용을 줄일 수 있는가?
• RQ2 스패닝 기반 방법과 비교할 때 관계별 시퀀스 태깅은 일반화 능력과 중첩 엔티티 처리 능력에서 어떻게 다른가?
• RQ3 관계에 독립적인 전역 대응 행렬은 주어·술어 쌍 선택에서 히우리스틱 정렬 전략을 능가할 수 있는가?
• RQ4 관계 수가 증가할 경우 제안된 프레임워크는 높은 효율성과 정확도를 유지하는가?
• RQ5 단일 엔티티 중첩(Single Entity Overlap, SEO), 엔티티 쌍 중첩(Entity Pair Overlap, EPO), 주어·술어 중첩(Subject-Object Overlap, SOO)과 같은 복잡한 중첩 삼중항 패턴에서 모델의 성능은 어떠한가?

주요 결과

• PRGC는 공개 벤치마크에서 SOTA F1 점수를 달성하여 TPLinker 대비 1.1% 향상되었고, FLOPs는 200배 감소하고 복잡도는 한 단계 감소했다.
• TPLinker 대비 3배 빠른 추론 속도, CasRel 대비 2배 빠른 추론 속도를 기록했으며, 관계 집합 크기가 증가함에 따라 성능 저하 없이 유지되었다.
• WebNLG*에서 잠재적 관계 예측 컴포넌트를 제거할 경우 정밀도 하락이 10% 증가(94.0에서 83.9 F1로)하여, 이는 부작용 예측을 최소화하는 데 기여함을 입증한다.
• 스패닝 기반 태깅 대비 WebNLG*에서 관계별 특화 시퀀스 태깅 컴포넌트가 F1 점수를 17.4점 향상시켜 뛰어난 일반화 능력과 강건성을 입증한다.
• WebNLG*에서 전역 대응 컴포넌트를 제거할 경우 F1 점수가 23.6점 상승하여, 잘못 매칭된 주어·술어 쌍을 줄이는 데 효과적임을 확인한다.
• NYT* 데이터셋에서 CasRel 대비 PRGC는 추론 시간을 5배 빠르게 하였고, F1 점수는 3% 향상시켜 강력한 효율성 및 정확도 향상을 입증한다.