[논문 리뷰] TAGME: on-the-fly annotation of short text fragments (by Wikipedia entities)

Paolo Ferragina, Ugo Scaiella|arXiv (Cornell University)|2010. 06. 17.

Natural Language Processing Techniques인용 수 105

한 줄 요약

TAGME는 트윗이나 검색 스니펫과 같은 짧은 텍스트 조각을 실시간으로 정확하게 위키백과 엔티티로 주석 처리할 수 있는 새로운 시스템이다. 이는 동의어 문제와 다의어 문제를 해결함으로써 짧은 텍스트에서의 어려움을 해결한다. 동적인 엔티티 해석 및 효율적인 순위 매기기 기법을 활용하여, 짧은 텍스트에서는 기존 방법들을 능가하고, 긴 텍스트에서는 높은 속도와 경쟁력을 유지한다.

ABSTRACT

In this paper we address the problem of accurately and efficiently cross-referencing text fragments with Wikipedia pages, in a way that structured knowledge is provided about the (unstructured) input text by resolving synonymy and polysemy. We take inspiration from the invited talk of Chakrabarti at WSDM 2010, and extend his proposed scenario from the annotation of entire documents to the annotation of short texts, such as snippets of search-engine results, tweets, news, etc.. These short and poorly composed texts pose new challenges in terms of efficiency and effectiveness of the annotation process, that we address by proposing TAGME, the first system that performs an accurate and on-the-fly annotation of these short textual fragments. A large set of experiments shows that TAGME significantly outperforms state-of-the-art algorithms [Milne and Witten 2008, Chakrabarty et al. 2009] when they are adapted to work on short texts, and surprisingly, it results competitive (if not superior!) on long texts with the plus of being faster.

연구 동기 및 목표

• 짧고 비정형적인 텍스트 조각을 위키백과 엔티티로 효율적이고 정확하게 주석 처리하는 데 도전한다.
• 맥락이 제한적이고 노이즈가 많은 짧은 텍스트에서 동의어와 다의어 문제를 해결한다.
• 검색 엔진이나 소셜 미디어와 같은 실시간 응용 프로그램에 적합한 실시간 주석 처리가 가능한 시스템을 개발한다.
• 이전의 문서 수준 주석 처리 방법을 더 도전적인 짧은 텍스트 환경으로 확장한다.

제안 방법

• TAGME는 입력 텍스트 조각으로부터 어휘적 및 의미적 신호를 기반으로 후보 위키백과 엔티티를 선택하는 동적인 엔티티 연결 파이프라인을 사용한다.
• 엔티티의 관련성과 텍스트 맥락을 기반으로 신뢰도 점수를 적용하며, 어휘 빈도, 역문헌 빈도, 링크 밀도 특징의 조합을 사용한다.
• 고정밀도 엔티티를 우선순위로 정렬하는 실시간 순위 매기기 메커니즘을 활용하여 사전 계산 없이 실시간 처리가 가능하도록 한다.
• 위키백과의 내부 링크 구조와 앵커 텍스트를 활용하여 애매함을 해소하는 빠른 해석 전략을 통합한다.
• 지역 맥락에 중점을 두고 전반적인 문서 통계에 의존도를 줄임으로써 짧은 텍스트 제약 조건에 동적으로 대응한다.
• 저자원 환경에서도 높은 정밀도를 확보하기 위해 임계값 기반 필터링 메커니즘을 사용한다.

실험 결과

연구 질문

• RQ1 트윗이나 검색 스니펫과 같은 짧고 비정형적인 텍스트에서 높은 정확도로 엔티티 주석 처리를 달성할 수 있는가?
• RQ2 기존 엔티티 연결 방법들이 짧은 텍스트에 적응될 때 성능이 어떻게 저하되는가? 이는 완화될 수 있는가?
• RQ3 실시간 주석 처리 시스템은 배치 처리 방법보다 짧은 텍스트에서 높은 속도를 유지하면서도 성능을 뛰어나게 할 수 있는가?
• RQ4 짧은 텍스트에 최적화된 본 연구의 접근 방식은 긴 텍스트에서도 경쟁력이 있는가?

주요 결과

• TAGME는 밀너와 위튼(2008) 및 찰라브르타르 등(2009)의 방법을 짧은 텍스트에 적응시킨 최첨단 알고리즘들을 뛰어넘는다.
• 동적인 맥락 인식 엔티티 선택 및 순위 매기기 메커니즘 덕분에 짧은 텍스트에서 높은 정밀도와 재현율을 달성한다.
• TAGME는 뛰어난 속도를 보이며, 실시간 주석 처리가 가능한 생산 환경에 적합하다.
• 짧은 텍스트에 최적화되었음에도 불구하고, TAGME는 긴 텍스트에서도 기존 방법들과 경쟁하거나 승리한다.
• 위키백과의 링크 구조와 동적 신뢰도 점수의 통합은 낮은 맥락 환경에서의 해석 정확도를 향상시킨다.
• 시스템의 실시간 특성 덕분에 사전 처리 병목 현상이 제거되어 실시간 응용에 실용적이다.