[논문 리뷰] Utilizing the World Wide Web as an Encyclopedia: Extracting Term Descriptions from Semi-Structured Texts

Atsushi Fujii, Tetsuya Ishikawa|ArXiv.org|2000. 11. 02.

Natural Language Processing Techniques참고 문헌 6인용 수 4

한 줄 요약

이 논문은 자연어 처리 기반의 어휘 패턴과 HTML 구조를 활용하여 월드 와이드 웹에서 기술 용어 설명을 자동으로 추출하고 요약하는 방법을 제안한다. NLP 기반 및 HTML 기반 추출, 언어 모델링을 통한 필터링, 계층적 베이지안 군집화를 통한 요약을 결합함으로써, 평균적으로 두 개의 대표적 설명으로 사용자가 용어를 이해할 수 있도록 하며, 관련 설명을 식별하는 데 67.9%의 정확도를 달성한다.

ABSTRACT

In this paper, we propose a method to extract descriptions of technical terms from Web pages in order to utilize the World Wide Web as an encyclopedia. We use linguistic patterns and HTML text structures to extract text fragments containing term descriptions. We also use a language model to discard extraneous descriptions, and a clustering method to summarize resultant descriptions. We show the effectiveness of our method by way of experiments.

연구 동기 및 목표

• 기존의 백과사전이 제작 비용이 높고 자주 갱신되지 않기 때문에 이를 보완하고자, 실시간으로 활용 가능한 웹의 동적이고 광범위한 콘텐츠를 기반으로 용어 설명을 확보하고자 한다.
• 원시 웹 콘텐츠에 내재된 노이즈와 중복성 문제를 극복하여, 준구조화된 웹 페이지에서 정확하고 의미 있는 기술 용어 설명을 자동으로 추출하고자 한다.
• 여러 개의 추출된 설명을 서로 다른 시각이나 어휘의 의미를 반영하는 군집으로 요약함으로써 중복을 줄이고 사용성 향상을 도모하고자 한다.
• 언어 패턴, HTML 구조, 언어 모델링, 군집화의 조합이 실용적이고 확장 가능한 웹 기반 백과사전 구축 프레임워크에서 얼마나 효과적인지 평가하고자 한다.

제안 방법

• 시스템은 자연어 처리 기반의 어휘 패턴과 HTML 기반의 구조적 힌트를 활용하여 웹 페이지에서 용어 설명을 포함할 수 있는 후보 텍스트 조각을 식별한다.
• 사전 처리 단계에서는 HTML 태그, 여유 있는 공백, 이메일 주소와 같은 비언어적 콘텐츠와 같은 불필요한 요소를 제거하여 입력을 표준화한다.
• 삼중어 기반 언어 모델을 사용하여 언어적 타당성 수준을 측정함으로써 비언어적 또는 노이즈가 많은 조각을 필터링하고, 의미 있는 설명일 가능성이 높은 조각만 유지한다.
• 한 용어에 대한 추출된 설명들은 HBC(Hierarchical Bayesian Clustering) 방법을 사용하여 군집화되어 유사한 설명들을 그룹화하고 대표적인 설명들을 식별한다.
• 시스템은 배경 색인 생성(주기적 업데이트)과 동적 즉시 추출을 모두 지원하여 사용자가 실시간으로 설명에 접근할 수 있도록 한다.
• 각 군집에서 유도된 대표적 설명들이 사용자에게 제시되어, 다양한 시각이나 어휘의 의미를 포괄하면서도 중복을 최소화한다.

실험 결과

연구 질문

• RQ1 HTML 내의 어휘적 패턴과 구조적 힌트를 효과적으로 조합하여 준구조화된 웹 페이지에서 용어 설명을 추출할 수 있는가?
• RQ2 언어 모델이 비언어적 또는 관련 없는 조각을 필터링함으로써 설명 추출 정확도를 얼마나 향상시키는가?
• RQ3 추출된 설명들을 군집화하는 것이 유사한 설명들을 효과적으로 그룹화하고 서로 다른 시각이나 어휘의 의미를 반영할 수 있는가?
• RQ4 시스템이 기술 용어에 대해 유용하고 이해하기 쉬운 설명을 추출하는 데 있어 총합 정확도는 어느 정도인가?

주요 결과

• NLP/HTML 기반 방법은 초기 추출 정확도 63.5%를 달성하여 웹 콘텐츠에서 패턴 기반 추출의 가능성을 입증했다.
• 삼중어 기반 언어 모델을 통합함으로써 정확도가 67.9%로 향상되었으며, 노이즈 감소와 추출된 설명의 품질 향상에 기여했다.
• HBC 군집화 방법은 설명을 성공적으로 요약하였으며, 제시된 대표적 설명 중 66.7%가 정확하여 시각이나 의미에 따라 효과적으로 그룹화되었음을 시사한다.
• 용어 'korokeishon'(collocation)의 다의어성을 정확히 식별하였으며, 세 개의 대표적 설명 중 두 개는 '어휘의 조합'을, 한 개는 '기계의 위치'를 각각 반영하여 다의어에 대한 민감도를 보였다.
• 사용자가 용어를 이해하기 위해 평균적으로 두 개의 설명만으로도 충분함을 대표적 설명의 평가를 통해 확인하였다.
• 이 방법은 정적 및 동적 검색 모두에 효과적이며, 사전 색인화된 데이터베이스에 의존하지 않고도 실시간으로 용어 설명에 접근할 수 있도록 지원한다.