[논문 리뷰] NorDiaChange: Diachronic Semantic Change Dataset for Norwegian

Andrey Kutuzov, Samia Touileb외 3명|arXiv (Cornell University)|2022. 01. 13.

Natural Language Processing Techniques인용 수 6

한 줄 요약

NorDiaChange는 노르웨이어를 위한 첫 번째 역사적 의미 변화 데이터셋으로, DURel 프레임워크와 역사적 문체집(NBdigital 및 NAK)을 사용하여 시간에 따라 의미가 변화하는 약 80개의 명사로 구성된 두 개의 수작업으로 분석된 하위집합을 포함한다. 이 데이터셋은 의미 변화 탐지 시스템의 지도 학습 및 평가를 가능하게 하며, 자유 라이선스 하에 완전히 공개되며 원시 annotation 데이터와 유도된 역사적 어휘 사용 그래프(DWUGs)를 포함한다.

ABSTRACT

We describe NorDiaChange: the first diachronic semantic change dataset for Norwegian. NorDiaChange comprises two novel subsets, covering about 80 Norwegian nouns manually annotated with graded semantic change over time. Both datasets follow the same annotation procedure and can be used interchangeably as train and test splits for each other. NorDiaChange covers the time periods related to pre- and post-war events, oil and gas discovery in Norway, and technological developments. The annotation was done using the DURel framework and two large historical Norwegian corpora. NorDiaChange is published in full under a permissive licence, complete with raw annotation data and inferred diachronic word usage graphs (DWUGs).

연구 동기 및 목표

• 노르웨이어 NLP 연구 분야에서 고품질, 표준화된 역사적 의미 변화 데이터셋의 부족을 해결하기 위해.
• 노르웨이어를 위한 지도 학습 기반 의미 변화 탐지 시스템의 개발 및 평가를 지원하기 위해.
• 기존 多국어 데이터셋(예: 영어, 독일어, 스웨덴어)과 호환 가능한 DURel 프레임워크를 사용하여 자원을 제공하기 위해.
• 노르웨이어에서 컨텍스트 기반 임bedding 및 의미 변화 탐지 모델의 파라미터 튜닝을 가능하게 하기 위해.
• 노르웨이어의 시간 구조화된 어휘 변화 데이터를 분석한 자료를 제공하여 역사어학 연구를 지원하기 위해.

제안 방법

• DURel 프레임워크를 사용하여 문장 쌍 내의 어휘 사용 간 의미 유사도를 수작업으로 분석하는 방법으로, 의미 관련성에 대해 단계적 척도를 적용한다.
• 주요 역사적 사건(예: 석유 발견, 전쟁 후 개발, 기술 변화 등)과 관련된 의미 변화가 예상되는 대상 명사 선정.
• 두 개의 대규모 역사적 노르웨이어 문체집(NBdigital(26,000건 이상의 공공 영역 텍스트) 및 노르웨이 신문문체집(NAK))을 활용하여 문장 샘플링.
• 동일한 분석 절차를 사용하여 두 개의 독립적인 데이터셋(하위집합 1: 1929–1965 대비 1970–2013; 하위집합 2: 1980–1990 대비 2012–2019)을 생성.
• 표준 DWUG 점수 계산 절차를 사용하여 분석 평가 결과에서 단계적 및 이진 의미 변화 점수 계산.
• 원시 분석 데이터, 유도된 역사적 어휘 사용 그래프(DWUGs), 및 완전한 메타데이터를 자유 라이선스 하에 공개.

실험 결과

연구 질문

• RQ1 DURel 프레임워크를 사용하여 노르웨이어에 대해 표준화되고 고품질의 역사적 의미 변화 데이터셋을 어떻게 구축할 수 있는가?
• RQ2 노르웨이어 명사의 의미 변화가 석유 발견이나 기술적 전환과 같은 주요 역사적 사건과 어느 정도 일치하는가?
• RQ3 두 개의 독립적으로 분석된 노르웨이어 데이터셋이 의미 변화 탐지 모델의 학습 및 테스트 분할로 상호 교환 가능하게 사용될 수 있는가?
• RQ4 단계적 의미 유사도 평가가 노르웨이어에서 시간에 따른 미세한 의미 변화를 얼마나 정확히 포착하는가?
• RQ5 annotation 및 점수 계산 절차 측면에서 NorDiaChange는 기존의 다국어 의미 변화 데이터셋과 어느 정도 호환되는가?

주요 결과

• NorDiaChange는 노르웨이어를 위한 공개된 첫 번째 완전한 수작업 분석을 거친 역사적 의미 변화 데이터셋으로, 일관된 방법론 하에 두 개의 서로 다른 시기 집합을 커버한다.
• 두 하위집합(하위집합 1 및 하위집합 2)은 완전히 호환되며, 학습 및 테스트 세트로 상호 교환 가능하여 지도 학습 기반 모델 평가가 가능하다.
• DURel 기반 분석에서 유도된 단계적 의미 변화 점수와 이진 변화 지표를 포함하여 수작업으로 분석된 노르웨이어 명사 80개가 포함되어 있다.
• 원시 분석 데이터와 유도된 역사적 어휘 사용 그래프(DWUGs)는 자유 라이선스 하에 공개되어 재현 가능성 확보 및 다양한 NLP 워크플로우에의 통합을 가능하게 한다.
• 이 데이터셋은 컨텍스트 기반 임베딩 및 의미 변화 탐지 모델의 파라미터 튜닝을 지원하며, SemEval-2020 공유 과제에서 성공한 접근 방식을 기반으로 한다.
• 분석 과정은 노르웨이의 전쟁 후 복구, 석유 경제 발전, 기술 현대화와 관련된 역사적 사건과 연결된 의미 변화를 성공적으로 포착하였다.