[논문 리뷰] Large-Scale Noun Compound Interpretation Using Bootstrapping and the Web as a Corpus

Su Nam Kim, Preslav Nakov|arXiv (Cornell University)|2019. 11. 27.

Topic Modeling참고 문헌 40인용 수 33

한 줄 요약

요약: 본 논문은 Web에서 명사구(nc)와 정교한 패러프레이징 패턴을 함께 수집하여 NC를 대상으로 한 추상 관계(Make 2)를 해석하기 위한 부트스트래핑 프레임워크를 제시합니다. 또한 부트스트래핑 도중 헤드(head) 또는 수정어(modifier)를 고정하는 것이 정확도와 확장성에 미치는 영향을 분석합니다.

ABSTRACT

Responding to the need for semantic lexical resources in natural language processing applications, we examine methods to acquire noun compounds (NCs), e.g., "orange juice", together with suitable fine-grained semantic interpretations, e.g., "squeezed from", which are directly usable as paraphrases. We employ bootstrapping and web statistics, and utilize the relationship between NCs and paraphrasing patterns to jointly extract NCs and such patterns in multiple alternating iterations. In evaluation, we found that having one compound noun fixed yields both a higher number of semantically interpreted NCs and improved accuracy due to stronger semantic restrictions.

연구 동기 및 목표

• 대규모이고 해석 가능한 NCs와 그들의 세밀한 패러프레이즈 패턴의 필요성을 제시한다.
• Web을 코퍼스로 사용하여 패턴에서 NC를 추출하고 NC에서 패턴을 추출하는 것을 교대로 수행하는 부트스트래핑 방법을 개발한다.
• NC의 한 개의 명사(헤드 또는 수정어)를 제약하는 것이 추출 품질과 커버리지에 어떤 영향을 미치는지 평가한다.
• 거친 분류(Make 2)와 세밀한 패러프레이즈 분포로 주석 처리된 NC 데이터셋을 제공한다.

제안 방법

• NC 의미를 패러프레이징 동사와 전치사의 분포로 표현한다.
• 두 단계 부트스트래핑 프로세스를 사용한다: (i) 주어진 seed 패턴을 패러프레이즈하는 NC를 추출; (ii) 발견된 NC에 대해 새로운 패러프레이징 패턴을 추출.
• Web 기반 질의를 사용하여 NC와 패턴을 수확하는 세 가지 부트스트래핑 전략(loose, strict, NC-only strict)을 적용한다.
• 빈도 임계값과 WordNet 기반 명사 확인으로 후보를 필터링하고, seed나 이전에 추출된 NC를 허용하지 않으며, Web 데이터에서 최소 동시출현 수를 요구한다.
• 최대 세 차례 반복하여 커버리지와 의미적 정확도 사이의 균형을 맞추고 NC에 대한 세밀한 패러프레이즈 분포를 생성한다.

실험 결과

연구 질문

• RQ1 작은 seed 세트의 패턴과 NC에서 시작한 부트스트래핑이 수십만 개의 NC를 패러프레이즈 동사로 해석하는 규모까지 확장될 수 있는가?
• RQ2 NC에서 하나의 명사(헤드 또는 수정어)를 고정하는 것이 추출 정확도를 높이고 의미적 드리프트를 줄이는가?
• RQ3 loose, strict, NC-only strict 부트스트래핑 체제에서 추출 수량과 정확도 간의 트레이드오프는 어떻게 되는가?
• RQ4 정교한 패러프레이즈 동사가 거친 추상 관계에 비해 NC 의미를 파악하는 데 얼마나 정보성이 있는가?
• RQ5 생성된 NC 데이터셋이 NC 해석이 필요한 NLP 응용에 어떻게 도움을 주는가?

주요 결과

• strict 및 NC-only strict 부트스트래핑이 loose 부트스트래핑보다 NC 및 NC-패턴 정확도가 높다.
• strict 부트스트래핑 하에서 추출된 NC 수가 크게 증가하고, NC-only strict 부트스트래핑은 더 많은 패턴 인스턴스화로 성장을 가속화한다.
• 더 높은 동시출현 임계값(N=10)을 사용하면 일반적으로 추출된 NC와 패턴이 감소하지만 정확도는 다소 향상될 수 있다.
• 부트스트래핑된 NC는 각 NC에 대해 패러프레이징 동사에 대한 세밀한 분포와 함께 쌍으로 사용할 수 있다.
• 비교 평가에서 제안 방법은 반복마다 일부 정확도 저하를 감수하는 대신 더 높은 커버리지를 달성하는 것으로 나타났다.