[논문 리뷰] Systematicity between Forms and Meanings across Languages Supports Efficient Communication

Doreen Osmelak, Yang Xu외 2명|arXiv (Cornell University)|2026. 01. 23.

Language and cultural evolution인용 수 0

한 줄 요약

본 논문은 CETL을 형태-의미 체계성에 대한 학습가능성 기반 복잡도 척도로 제시하고, 확인된 동사 및 대명사 활용이 내부 형태 구성(structure)을 활용하여 전통적인 IB 모델을 능가하는 효율을 최적화한다는 점을 보인다.

ABSTRACT

Languages vary widely in how meanings map to word forms. These mappings have been found to support efficient communication; however, this theory does not account for systematic relations within word forms. We examine how a restricted set of grammatical meanings (e.g. person, number) are expressed on verbs and pronouns across typologically diverse languages. Consistent with prior work, we find that verb and pronoun forms are shaped by competing communicative pressures for simplicity (minimizing the inventory of grammatical distinctions) and accuracy (enabling recovery of intended meanings). Crucially, our proposed model uses a novel measure of complexity (inverse of simplicity) based on the learnability of meaning-to-form mappings. This innovation captures fine-grained regularities in linguistic form, allowing better discrimination between attested and unattested systems, and establishes a new connection from efficient communication theory to systematicity in natural language.

연구 동기 및 목표

• 언어가 형태-의미 매핑에서 단순성과 정확성의 균형을 왜 추구하는지 동기를 제시한다.
• 체계성을 효율성 모델에 포함시키는 통일된 정보 이론적 프레임워크를 제안한다.
• 형태의 내부 구조를 포착하는 학습가능성 기반 복잡도 지표(CETL)를 개발한다.
• 언어 유형학적으로 다양한 언어의 동사 및 대명사 활용에 대해 CETL을 평가한다.
• CETL을 Information Bottleneck (IB) 접근과 비교하고 우수한 구별력을 입증한다.

제안 방법

• 의미 m_t를 표면 형태 w로 매핑하기 위해 형식 w를 문자 시퀀스로 모델링하고 시퀀스-투-시퀀스 신경 인코더(LSTM)를 사용한다.
• 말뭉치 빈도에서 필요 분포 p_cog(t)를 정의하여 의도된 의미 대상에 의사소통 필요에 따라 가중치를 부여한다.
• 학습 중 교차 엔트로피 감소(CETL)을 통해 복잡성을 정량화한다(학습 에폭 T_max 동안).
• 의미를 범주형 특징으로 표현하고 가중 하밍 거리 d(u,t)로 유사성을 측정한다.
• IB 프레임워크의 베이지안 디코딩을 사용하여 정확도를 평가하고 CETL의 학습가능성 기반 지표와 비교한다.
• 구조적 및 형태만의 순열에 의해 반사실적 패러다임을 생성하여 효율성과 자연성을 테스트한다.

Figure 1: Turkish pronouns show systematic form-meaning mappings: person is consistently marked by prefixes (e.g., s- for second person), number by suffixes. Language evolution research demonstrates that such systematicity supports learnability . Our model connects these findings, proposing that lea

실험 결과

연구 질문

• RQ1 동사 및 대명사 영역에서 확인된 패러다임의 효율성(CETL)이 반사실적 대안보다 우수한가?
• RQ2 더 자연스러운 동형현상(syncretism) 패턴이 더 낮은 CETL(더 높은 학습가능성)과 관련이 있는가?
• RQ3 CETL이 IB 모델보다 확인된 시스템과 반사실적을 더 잘 구분하는가?
• RQ4 내재적 형태 구조(체계성)가 언어 전반의 의사소통 효율성에 어떻게 기여하는가?

주요 결과

• 확인된 패러다임은 동사와 대명사 모두에서 대부분의 반사실적 순열보다 더 효율적이다(더 낮은 CETL, 더 높은 정확도).
• CETL과 Afro-Asiatic 동사의 비자연성 사이에 양의 상관이 있어 자연성 가설을 지지한다(r = 0.5745, p < 2.2e-16).
• CETL은 구조적 순열보다 확인된 패러다임이 더 효율적임을 식별하는 데 IB 모델보다 우수하며 자연성과 강하게 상관한다(대명사 및 동사: 상관 > 0.8).
• CETL은 이를 문자 시퀀스로 인코딩하여 형식 간의 체계성을 감지하고 IB가 포착하지 못하는 미세한 규칙성을 포착한다.
• 도메인 전반에 걸쳐 확인된 패러다임은 반사실적보다 더 나은 복잡도-정확도 트레이드를 달성하여 자연언어의 효율성 지향 디자인을 뒷받침한다.

Figure 2: Communication model, adapted from Zaslavsky et al. ( 2018 , 2021b ) . Our model encodes the form $w$ as a sequence, and decodes it as an atomic unit.