[논문 리뷰] Assessing Digital Language Support on a Global Scale

Gary Simons, Abbey L. Thomas외 1명|arXiv (Cornell University)|2022. 09. 27.

Linguistics, Language Diversity, and Identity인용 수 7

한 줄 요약

이 논문은 143개의 디지털 도구에서 스크래핑한 언어 지원 데이터를 기반으로 Mokken 척도 분석을 사용하여 모든 ISO 639 언어의 디지털 언어 지원(DLS)을 설명 가능하고 자동화된 방법으로 측정하는 방법을 제안한다. 이 방법은 Still, Emerging, Ascending, Vital, Thriving의 다섯 단계 척도를 생성하며, 이는 오직 33개의 언어만이 Thriving로 분류되고, 3,996개의 언어가 Still로 남아 있음을 드러내며, 전 세계적인 디지털 언어 격차를 보여준다.

ABSTRACT

The users of endangered languages struggle to thrive in a digitally-mediated world. We have developed an automated method for assessing how well every language recognized by ISO 639 is faring in terms of digital language support. The assessment is based on scraping the names of supported languages from the websites of 143 digital tools selected to represent a full range of ways that digital technology can support languages. The method uses Mokken scale analysis to produce an explainable model for quantifying digital language support and monitoring it on a global scale.

연구 동기 및 목표

• 모든 ISO 639 언어에 대해 디지털 언어 지원(DLS)을 측정하기 위한 자동화되고 설명 가능한 방법을 개발하는 것.
• 블랙박스 모델의 한계를 해결하기 위해 DLS에 대한 결정론적이고 해석 가능한 평가를 만드는 것.
• DLS를 하나의 기본 특성으로 정량화하여 시간에 따라 언어의 디지털 역량을 모니터링하는 것.
• Kornai(2013)의 방법에 대한 확장 가능한 대안을 제공하기 위해, 혼합된 디지털 역량 지표가 아닌 DLS에 집중하는 것.
• Ethnologue가 DLS 보고서를 그들의 세계적 언어 데이터베이스에 통합하는 데 지원하는 것.

제안 방법

• 이 방법은 다양한 디지털 기술 분야를 대표하는 143개의 디지털 도구에서 언어 지원 데이터를 웹 스크래핑하여 수집한다.
• 일곱 개의 DLS 카테고리인 Surface, Encoding, Content, Localized, Speech, Assistant, Meaning에 대한 단일 척도의 타당성을 Mokken 척도 분석을 통해 검증한다.
• 항목 반응 이론(IRT)을 사용하여, 언어가 각 DLS 카테고리에 도달할 확률을 그 누적 점수에 기반해 모델링하는 항목 반응 함수(IRF)를 유도한다.
• DLS 점수는 최대 점수(0에서 28)에 대한 비율로 정규화되며, IRF에서 유도된 확률을 사용해 허위 또는 지속 불가능한 지원을 조정한다.
• 결과로 도출된 DLS 점수는 로그 스케일이 적용되고 뒤집힌 순위 축에 플롯되어, 혁신 수용에 일반적인 S자형 성장 패턴을 드러낸다.
• 각 언어가 적합된 S자형 곡선의 기하학적 위치에 따라 다섯 가지 요약 수준인 Still, Emerging, Ascending, Vital, Thriving이 할당된다.

실험 결과

연구 질문

• RQ1 모든 ISO 639 언어에 대해 디지털 언어 지원(DLS)을 확장 가능하고 설명 가능하며 결정론적으로 측정할 수 있는 방법은 무엇인가?
• RQ2 DLS는 비디지털 언어 역량과 어느 정도 상관이 있으며, 이를 의미 있게 분리할 수 있는가?
• RQ3 다양하고 실제 세계의 디지털 도구 데이터를 기반으로 Mokken 척도 분석이 DLS의 단일 차원 특성을 효과적으로 모델링할 수 있는가?
• RQ4 세계의 언어들 사이에서 DLS의 세계적 분포는 어떻게 되며, 이는 성장 곡선 패턴을 따르는가?
• RQ5 어느 언어들이 디지털 역량으로 향하는 길에 있으며, 어느 언어들은 어마어마한 어휘 수에도 불구하고 여전히 지원을 받지 못하고 있는가?

주요 결과

• DLS 척도는 전체 척도에 대해 0.825의 동질성 계수(H)를 기록하여 높은 내적 일관성과 강력하고 신뢰할 수 있는 측정을 나타낸다.
• 가장 높은 DLS 항목들인 Assistant(H = 0.987)와 Speech(H = 0.942)는 가장 강력한 가속화 성향을 보이며, 강력하고 누적적인 지원을 나타낸다.
• 오직 33개의 언어(0.4%)만이 Thriving로 분류되었으며, 이는 영어와 헝가리어를 포함하여 완전한 디지털 지원의 좁은 정점임을 시사한다.
• 3,996개의 언어(51.1%)는 Still로 분류되었으며, 이는 아이마크어와 유로크어를 포함하여 상당한 인구가 존재하지만 최소 또는 전혀 디지털 지원이 없는 상태임을 보여준다.
• 7,829개의 언어에 대한 DLS 점수는 로그 스케일이 적용되고 뒤집힌 순위 축에 플롯되었을 때 명확한 S자형 패턴을 따르며, 혁신 수용과 일치하는 성장 궤적임을 확인한다.
• 모델은 키보드 입력, 인코딩 등의 기초 지원이 있는 언어와 가상 비서와 같은 고급 기능이 있는 언어를 효과적으로 구분하며, 항목의 난이도는 고급 기능이 상당한 이전 지원이 필요함을 나타낸다.