[논문 리뷰] Semantic Unification A sheaf theoretic approach to natural language

Samson Abramsky, Mehrnoosh Sadrzadeh|arXiv (Cornell University)|2014. 03. 13.

Cognitive Science and Education Research참고 문헌 10인용 수 5

한 줄 요약

이 논문은 자연어의 맥락적 의미를 모델링하기 위해 다층 이론적 프레임워크를 제안하며, 국소적인 의미를 논의 조각들에서 통합하여 전역적 의미 구조로 만드는 접합을 사용한다. 이는 비유적 해소에 적용되어, 코퍼스에서 유래한 확률 분포를 사용한 다층 접합을 통해 가장 가능성이 높은 참조 대상 매핑을 선호 기반으로 선택할 수 있음을 보여준다. 사례 연구에서는 '숙은 바나나'와 '도망치는 원숭이'를 다루었다.

ABSTRACT

Language is contextual and sheaf theory provides a high level mathematical framework to model contextuality. We show how sheaf theory can model the contextual nature of natural language and how gluing can be used to provide a global semantics for a discourse by putting together the local logical semantics of each sentence within the discourse. We introduce a presheaf structure corresponding to a basic form of Discourse Representation Structures. Within this setting, we formulate a notion of semantic unification --- gluing meanings of parts of a discourse into a coherent whole --- as a form of sheaf-theoretic gluing. We illustrate this idea with a number of examples where it can used to represent resolutions of anaphoric references. We also discuss multivalued gluing, described using a distributions functor, which can be used to represent situations where multiple gluings are possible, and where we may need to rank them using quantitative measures. Dedicated to Jim Lambek on the occasion of his 90th birthday.

연구 동기 및 목표

• 맥락적 성격을 가진 자연어를 다층 이론을 사용하여 모델링하여 맥락성에 대한 수학적 프레임워크를 제공한다.
• 개별 문장의 국소적 의미를 통합하여 일관된 전역적 의미 구조를 만드는 논의 의미론을 형식화한다.
• 기존의 제약 기반 비유적 해소를 통계적 분포를 사용한 선호 기반 사례로 확장한다.
• DRT를 통한 구조적 의미론을 다층 함자와 분포 함자들을 통해 코퍼스 데이터와 통합한다.
• 비유적 참조와 참조 대상 융합을 다룰 수 있는 구성적이고 수학적으로 엄밀한 논의 의미론을 제공한다.

제안 방법

• 논의 조각의 범주 위에서 논의를 프레셰프로 모델링하여 각 조각에 국소적 의미 집합(섹션)을 할당한다.
• 다층 이론적 콤팩트 극한을 통한 접합을 정의하여, 호환 가능한 국소 섹션들이 일관된 전역 섹션으로 통합되도록 한다.
• 비유적 참조 해석을 비유어에서 잠재적 전행어로의 커버링 맵으로 표현하여 후보 전역 섹션을 유도한다.
• 코퍼스 빈도를 사용하여 가능한 커버링(즉, 참조 대상 매핑)에 대한 확률 분포를 계산하여 해석 간의 선호도를 모델링한다.
• 다층 함자를 분포 함자와 조합하여 전역 접합에 대한 확률 측도를 생성하고, 해석의 순위를 매길 수 있도록 한다.
• 실제 언어 예시, 예를 들어 '숙은 바나나'와 '도망치는 원숭이'에 이 방법을 적용하여 영국 뉴스 코퍼스를 사용해 통계 패턴과 빈도를 추출한다.

실험 결과

연구 질문

• RQ1 다층 이론은 자연어 논의의 맥락적 의미론을 어떻게 모델링할 수 있는가?
• RQ2 개별 문장의 국소적 의미는 어떻게 체계적으로 전역적 논의 의미론으로 접합될 수 있는가?
• RQ3 구성적 프레임워크에서 정량적 측도를 사용하여 다수의 가능한 비유적 해석을 어떻게 순위 매길 수 있는가?
• RQ4 코퍼스 통계는 모호한 비유적 해석 사례에서 가장 타당한 접합을 선택하는 데 어떤 역할을 하는가?
• RQ5 다층 이론적 접합은 몬테그의 스타일 의미론에 대한 공식적이고 구성적인 대안을 비유적 논의에 제공할 수 있는가?

주요 결과

• 다층 이론적 접합 프레임워크는 국소적 논의 의미를 전역적 의미 구조로 성공적으로 통합하여 호환 가능한 섹션 확장을 통해 맥락성을 모델링한다.
• '숙은'과 '도망치는' 형용사의 사례에서 가장 가능성이 높은 해석은 각각 '숙은 바나나'와 '도망치는 원숭이'였으며, 확률은 0.521((14+10)/48)로 전역 섹션 t₂에 해당한다.
• 접합에 대한 확률 분포는 코퍼스 빈도를 사용하여 계산되었으며, '숙은 바나나'는 14번, '도망치는 원숭이'는 10번 발생했고, 이들의 동시 발생이 가장 가능성이 높은 조합이었다.
• 모든 '숙은'과 '도망치는'이 바나나를 가리키는 해석에 대해서는 확률 0.29가 할당되었고, 모든 것이 원숭이를 가리키는 해석에 대해서는 0.205의 확률이 할당되었다.
• 대규모 코퍼스에서 유도된 통계적 분포와 구조적 접합을 조합함으로써 이 프레임워크는 선호 기반 비유적 해석을 지원한다.
• 이 방법은 몬테그의 스타일 의미론의 한계를 피하면서도 비유적 참조와 참조 대상 융합을 다룰 수 있는 공식적이고 구성적인 논의 의미론을 제공한다.