[논문 리뷰] Feature overwriting as a finite mixture process: Evidence from comprehension data

Shravan Vasishth, Lena A. Jäger외 1명|arXiv (Cornell University)|2017. 03. 12.

Topic Modeling인용 수 9

한 줄 요약

이 논문은 '서랍의 열쇠는 테이블 위에 있다'와 같은 문법적으로 잘못된 문장에서의 문법성 착시 현상이, 동일한 수의 명사들이 일부 시험에서 혼동되는 특징 오버라이팅(overwriting)에 기인한다고 제안한다. 10개의 공개된 데이터셋에 대해 계층적 베이지안 유한 혼합 모델을 적용한 결과, 특징 오버라이팅 기반의 이질적 분산 혼합 모델이 특징 퍼지기 및 쿠 기반 복구 이론보다 더 나은 성능을 보이며 더 빠른 독해 시간을 설명하는 데 강력한 증거를 제공한다.

ABSTRACT

The ungrammatical sentence "The key to the cabinets are on the table" is known to lead to an illusion of grammaticality. As discussed in the meta-analysis by Jaeger et al., 2017, faster reading times are observed at the verb are in the agreement-attraction sentence above compared to the equally ungrammatical sentence "The key to the cabinet are on the table". One explanation for this facilitation effect is the feature percolation account: the plural feature on cabinets percolates up to the head noun key, leading to the illusion. An alternative account is in terms of cue-based retrieval (Lewis & Vasishth, 2005), which assumes that the non-subject noun cabinets is misretrieved due to a partial feature-match when a dependency completion process at the auxiliary initiates a memory access for a subject with plural marking. We present evidence for yet another explanation for the observed facilitation. Because the second sentence has two nouns with identical number, it is possible that these are, in some proportion of trials, more difficult to keep distinct, leading to slower reading times at the verb in the first sentence above; this is the feature overwriting account of Nairne, 1990. We show that the feature overwriting proposal can be implemented as a finite mixture process. We reanalysed ten published data-sets, fitting hierarchical Bayesian mixture models to these data assuming a two-mixture distribution. We show that in nine out of the ten studies, a mixture distribution corresponding to feature overwriting furnishes a superior fit over both the feature percolation and the cue-based retrieval accounts.

연구 동기 및 목표

• 특징 오버라이팅—같은 수의 특징을 가진 명사들 간의 혼동—이 문법적으로 잘못된 문장에서의 문법성 착시 현상을 설명할 수 있는지 조사한다.
• 세 가지 경쟁적 해석 이론인 특징 오버라이팅, 특징 퍼지기, 쿠 기반 복구의 예측 성능을 비교한다.
• 계층적 베이지안 프레임워크 내에서 유한 혼합 분포를 사용하여 독해 시간 향상의 인지적 과정을 모델링한다.
• 기존의 이론들보다 특징 오버라이팅이 공개된 이해 데이터에 더 나은 통계적 적합도를 제공하는지 판단한다.

제안 방법

• 10개의 공개된 독해 시간 데이터셋에 계층적 베이지안 이중 혼합 모델을 피팅하여, 유한한 두 분포의 혼합을 가정한다.
• 특징 오버라이팅으로 인해 높은 혼동 가능성에 기인한 시험을 나타내는 하나의 구성요소를 포함하는 이질적 분산 혼합 모델을 사용한다.
• 혼합 모델을 확률 매개변수(diffprob)로 정의하여, 높은 혼동 가능성 구성요소에 속하는 시험의 비율을 나타낸다.
• 모델 적합도를 비교하기 위해 PSIS-LOO 교차검증을 적용하며, 더 높은 elpd 값은 더 나은 예측 성능을 의미한다.
• 참가자와 자료에 대한 무작위 효과를 포함하고, 실험 조건을 위한 합코드형 예측변수를 포함하여 독해 시간을 로그정규분포로 모델링한다.
• 모델 매개변수와 그 불확실성을 추정하기 위해 Stan을 사용하여 전면 베이지안 추론을 수행한다.

실험 결과

연구 질문

• RQ1 특징 오버라이팅이 특징 퍼지기 또는 쿠 기반 복구보다 문법적으로 잘못된 문장에서 동사 어절에서의 더 빠른 독해 시간을 더 나은 통계적 설명으로 제공하는가?
• RQ2 특징 오버라이팅으로 인해 높은 혼동 가능성에 기인한 시험은 다른 시험보다 독해 시간의 분산이 더 큰가에 대한 증거가 있는가?
• RQ3 두 개의 복수형 명사가 있는 조건과 한 개의 복수형, 한 개의 단수형 명사가 있는 조건 간에 높은 혼동 가능성 구성요소에 할당된 시험 비율에 차이가 있는가?
• RQ4 특징 오버라이팅 기반의 유한 혼합 모델이 이해 데이터에서 관찰된 향상 효과를 설명할 수 있는가?

주요 결과

• 10개 데이터셋 중 9개에서 이질적 분산 특징 오버라이팅 혼합 모델이 특징 퍼지기 및 쿠 기반 복구 모델보다 더 나은 적합도를 보였다.
• 동질적 분산 특징 오버라이팅 모델은 유일한 예외를 제외한 모든 데이터셋에서 표준 계층적 모델(복구 간섭 이론)보다 성능이 뛰어나 특징 오버라이팅에 대한 더 강한 지지를 보였다.
• 모든 연구에서 높은 혼동 가능성 구성요소에 속하는 시험의 비율을 나타내는 추정 확률(diffprob)이 0을 초과했으며, 유일하게 연구 1에서만 높은 불확실성이 관찰되어 두 개의 단수형 명사 조건에서 혼동 가능성 증가에 대한 일관된 증거가 있음을 시사한다.
• 높은 혼동 가능성 분포의 분산(sigmap_e)은 다른 분산 구성요소보다 상당히 크며, 특징 오버라이팅이 발생할 경우 시험 간 변동성이 더 크다는 것을 나타낸다.
• 모델 비교 결과는 전이성을 보였으며, PSIS-LOO 비교에서 elpd 값이 가장 높아 전체적으로 가장 뛰어난 예측 성능을 보인 것으로 나타났다.