[논문 리뷰] On the Quantum-like Contextuality of Ambiguous Phrases

Daphne Wang, Mehrnoosh Sadrzadeh외 2명|arXiv (Cornell University)|2021. 07. 19.

Quantum Mechanics and Applications참고 문헌 11인용 수 8

한 줄 요약

이 논문은 분포적 데이터에 sheaf-이론적 및 Contextuality-by-Default (CbD) 프레임워크를 적용하여 자연어의 모호한 어구가 양자 유사한 맥락성질을 보이는지 조사한다. CbD 프레임워크 하에서 일부 모호한 어구—'adopt boxer'와 'throw pitcher'—는 확률적 맥락성질을 보이며, 각각 맥락성질 측도 1/30과 7/30을 기록한다. 이는 언어적 맥락성질이 양자 유사 도구를 사용하여 형식적으로 모델링될 수 있음을 보여준다.

ABSTRACT

Language is contextual as meanings of words are dependent on their contexts. Contextuality is, concomitantly, a well-defined concept in quantum mechanics where it is considered a major resource for quantum computations. We investigate whether natural language exhibits any of the quantum mechanics' contextual features. We show that meaning combinations in ambiguous phrases can be modelled in the sheaf-theoretic framework for quantum contextuality, where they can become possibilistically contextual. Using the framework of Contextuality-by-Default (CbD), we explore the probabilistic variants of these and show that CbD-contextuality is also possible.

연구 동기 및 목표

• 자연어 의미 조합이 모호한 어구에서 양자 유사 맥락성질을 보이는지 조사한다.
• 논리적(가능성 기반) 맥락성질을 위한 sheaf-이론적 프레임워크를 사용하여 언어적 맥락성질을 모델링한다.
• Contextuality-by-Default (CbD) 프레임워크를 사용하여 확률적 모델로 분석을 확장한다.
• 심리언어학적 및 코퍼스 기반 자료에서의 실제 언어 데이터를 사용하여 맥락성질을 정량화한다.
• 표본 변동성 하에서 맥락성질의 강건성을 평가하고 자연어 처리(NLP)에 대한 함의를 탐색한다.

제안 방법

• 모호한 어구의 의미 조합을 맥락에 대한 경험적 모델로 모델링하기 위해 sheaf-이론적 프레임워크를 적용한다.
• 코퍼스(BNC, Baroni 등)와 심리언어학 연구(Pickering & Frisson, Tanenhaus 등)에서 추출한 분포적 데이터를 사용하여 의미 공존 빈도를 추출한다.
• 어구 수준의 의미 선택을 측정 맥락에 대한 연합 확률 분포로 번역하고, CbD 프레임워크 내의 경험적 모델로 모델링한다.
• Kujala와 Dzhafarov(2016)의 벨 유사 부등식을 사용하여 확률적 시스템에서의 맥락성질을 검증한다.
• Dzhafarov 등(2020)의 방법을 사용하여 비논리적 모델에서의 이격도를 정량화하기 위해 맥락성질 측도를 계산한다.
• 표본 변동성 하에서 관측된 시스템이 비맥락성일 가능성을 추정하기 위해 매개수 부트스트랩을 수행한다.

실험 결과

연구 질문

• RQ1 자연어의 모호한 어구에서 의미 조합이 양자 기반 이론에서 정의된 논리적(가능성 기반) 맥락성질을 보일 수 있는가?
• RQ2 자연어에서 모호한 어구 해석의 확률적 모델이 CbD 프레임워크 하에서 맥락성질을 보이는가?
• RQ3 형식적 측도를 사용하여 언어 의미 조합의 맥락성질을 어떻게 정량화할 수 있는가?
• RQ4 언어 데이터에서의 신호 전파 효과가 CbD 프레임워크에서 맥락성질 탐지에 어떤 영향을 미치는가?
• RQ5 실제 코퍼스 데이터에서 강건하고 정량화 가능한 언어적 맥락성질 사례를 도출할 수 있는가?

주요 결과

• 어구 'adopt boxer'는 CbD 맥락성질을 보이며, 맥락성질 측도가 1/30으로, 비논리적 모델에서의 미미하지만 비영이 아닌 이격도를 나타낸다.
• 어구 'throw pitcher'는 더 높은 수준의 맥락성질을 보이며, 측도 7/30으로 의미 할당에서 더 강한 비고전적 의존성을 시사한다.
• 매개수 부트스트랩 하에서 'adopt boxer'에 대한 비맥락성 모델을 찾을 확률은 0.56 이상이었으며, 표본 변동성에 대해 중간 수준의 강건성을 나타낸다.
• 'throw pitcher'의 경우 비맥락성 모델을 찾을 확률은 0.08 이하였고, 이는 높은 강건성과 맥락성질에 대한 강력한 증거를 의미한다.
• 데이터 내 신호 전파 효과가 있음에도 불구하고, 두 시스템 모두 CbD 하에서 맥락성질을 유지하여, 국소적 인과성 위반 상황에서도 맥락성질이 지속될 수 있음을 보여준다.
• 이 연구는 코퍼스 편향—예를 들어 '버스'를 의미하는 'coach'의 미국 영어 표현이 부족하게 나타나는 것—이 관측된 의미 빈도와 해석 패턴에 영향을 줄 수 있음을 밝혀냈다.