[논문 리뷰] The Greedy and Recursive Search for Morphological Productivity

Caleb Belth, Sarah R. Payne외 3명|arXiv (Cornell University)|2021. 05. 12.

Language Development and Disorders참고 문헌 37인용 수 38

한 줄 요약

이 논문은 Tolerance Principle를 통해 생산적 형태론 규칙을 발견하는 탐욕적 재귀적 추론 모델 ATP를 소개하며, 작은 어휘에서의 생산성을 평가하고 영어와 독일어에서 인간 발달 패턴과 일치합니다. 핵심 과제에서 신경망 기준모델보다 우수하며, 제한된 학습 입력을 사용하여 Wug 테스트 생산을 인간 데이터와 맞춥니다.

ABSTRACT

As children acquire the knowledge of their language's morphology, they invariably discover the productive processes that can generalize to new words. Morphological learning is made challenging by the fact that even fully productive rules have exceptions, as in the well-known case of English past tense verbs, which features the -ed rule against the irregular verbs. The Tolerance Principle is a recent proposal that provides a precise threshold of exceptions that a productive rule can withstand. Its empirical application so far, however, requires the researcher to fully specify rules defined over a set of words. We propose a greedy search model that automatically hypothesizes rules and evaluates their productivity over a vocabulary. When the search for broader productivity fails, the model recursively subdivides the vocabulary and continues the search for productivity over narrower rules. Trained on psychologically realistic data from child-directed input, our model displays developmental patterns observed in child morphology acquisition, including the notoriously complex case of German noun pluralization. It also produces responses to nonce words that, despite receiving only a fraction of the training data, are more similar to those of human subjects than current neural network models' responses are.

연구 동기 및 목표

• 제한된 아동 지도 데이터에서 자동으로 생산적 형태 규칙을 가설화하는 계산적 접근법을 시연한다.
• 재분할이 넓은 규칙이 실패할 때 더 좁은 생산적 규칙의 발견을 가능하게 하는지 보인다.
• ATP의 발달 궤적과 정확도를 영어 및 독일어 형태론에서 인간 데이터 및 신경망 기준모델과 비교한다.
• 현실적인 학습 조건에서 인간 성능과 비교하여 ATP의 Wug 테스트 생산을 평가한다.

제안 방법

• 생성 선택 규칙을 다이트레이션하는 재귀적 귀납 탐색인 Abduction of Tolerable Productivity(ATP)를 제안하여 렘마와 특징을 굴절형 형태로 매핑하는 결정 트리를 구축한다.
• 각 분할 시, 부분집합 내에서 가장 자주 등장하는 접미사를 최대화하여 일관성을 극대화하는 특징을 선택한다.
• 생산적 접미사에 대해 Tolerance Principle를 통과하는 렘마-종결 특징을 반복적으로 추가한다.
• 기본 경우: 가장 자주 등장하는 접미사가 TP를 통과하거나 특징이 남아 있지 않으면 중지하고 예외를 기억한다.
• 변형 생성은 학습된 트리를 따라가며 생산적 규칙이 적용되지 않으면 최근접 이웃 기억화를 사용한다.
• 코드 및 데이터: ATP 구현 및 사용 지침이 온라인에 제공된다.

실험 결과

연구 질문

• RQ1 Tolerance Principle를 사용한 탐욕스러운 재귀적 탐색이 제한된 데이터에서 생산적 형태 규칙을 자동으로 가설화할 수 있는가?
• RQ2 단어집을 더 좁은 그룹으로 세분화하는 것이 복잡한 형태론(예: 독일어 복수형)의 생산적 규칙 발견을 개선하는가?
• RQ3 ATP가 학습한 생산적 규칙과 Wug 테스트 생산이 인간 데이터 및 신경망 기준모델과 아동 대상 어휘로 훈련될 때 얼마나 잘 일치하는가?
• RQ4 ATP가 영어 과거형, 영어 복수형 -s, 독일어 복수형, 현재분사에서 아이들이 관찰하는 습득 순서에 따라 발달적으로 타당한가?

주요 결과

• ATP는 아동 연구에서 관찰된 영어와 독일어 형태에 가까운 순서로 생산적 접미사 규칙을 발견한다.
• ATP는 영어 과거형 및 독일어 복수화에서 여러 데이터 크기에서 ED 신경모델보다 우수하다.
• ATP는 현실적인 학습 크기(400단어)에서 인간 데이터와 상관관계가 신경망 기준모델을 넘어서는 Wug 테스트 생산을 보인다.
• 독일어에서 성별 정보 유무에 관계없이 정확도를 유지하여 음운 규칙의 추출이 견고함을 시사한다.
• ATP는 학습된 규칙을 명시적으로 나타내는 투명한 결정 트리를 제공한다(예: 영어 과거형 -ed 규칙 및 독일어 다섯 접미사).