[논문 리뷰] NLP for Ghanaian Languages

Paul Azunre, Salomey Osei외 25명|arXiv (Cornell University)|2021. 03. 29.

Topic Modeling참고 문헌 14인용 수 4

한 줄 요약

NLP Ghana는 저자원 가나 언어인 아칸, 에웨, 가를 위한 최신 자연어 처리 도구를 개발하기 위한 오픈소스 이니셔티브를 제안한다. 커뮤니티 기반으로 모은 번역 데이터와 인간 검증 데이터를 활용하여 아쿠아페임 트위의 고품질 문장 쌍 25,000개 이상를 생성했으며, 기계 번역, NER, 품사 태깅을 위한 오픈소스 모델과 데이터셋을 공개하여 아프리카 저자원 언어의 기계 번역 기술 발전을 이끌었다.

ABSTRACT

NLP Ghana is an open-source non-profit organization aiming to advance the development and adoption of state-of-the-art NLP techniques and digital language tools to Ghanaian languages and problems. In this paper, we first present the motivation and necessity for the efforts of the organization; by introducing some popular Ghanaian languages while presenting the state of NLP in Ghana. We then present the NLP Ghana organization and outline its aims, scope of work, some of the methods employed and contributions made thus far in the NLP community in Ghana.

연구 동기 및 목표

• 디지털 및 기계 학습 시스템에서 부족하게 다뤄지는 가나어 언어에 대한 NLP 도구와 학습 데이터의 부족을 해결하기 위해.
• 아칸, 에웨, 가와 같이 저자원 아프리카 언어에 대한 주석 처리된 고품질 학습 데이터의 부족 문제를 해결하기 위해.
• 기계 번역, 명명된 실체 인식, 어간 추론 태깅을 지원하기 위해 재사용 가능한 오픈소스 NLP 모델과 데이터셋을 개발하기 위해.
• 가나어 및 기타 저자원 언어의 NLP 발전을 위해 지속 가능하고 커뮤니티 기반의 연구 조직을 구축하기 위해.
• 교육, 보건 서비스, 국가 안보 응용 분야를 지원하기 위해 가나어의 디지털 존재감과 계산 가능성 향상하기 위해.

제안 방법

• 자발적인 영어-아칸 번역을 수집하기 위해 Google Forms를 활용한 커뮤니티 기반 수집 방식을 적용하여 약 697개의 문장 쌍을 확보했다.
• 기계 번역 결과를 인간이 검증함으로써 초기 기계 번역 50,000개의 풀에서 고품질 아쿠아페임 트위 문장 쌍 약 25,000개를 생성했다.
• 내부 데이터 수집 활동을 보완하기 위해 JW300 및 성경과 같은 외부 多국어 데이터셋을 활용했다.
• 확득한 학습 데이터를 기반으로 아칸, 에웨, 가를 위한 컨텍스트 기반(BERT 기반) 및 정적(fastText) 임베딩을 개발하고 오픈소스로 공개했다.
• 데이터, 엔지니어링, 연구, 커뮤니케이션의 다섯 팀으로 구성된 다학제적 팀 체계를 구축하여 데이터 수집, 모델 개발, 이해관계자 참여를 조율했다.
• 향후 오디오 데이터(구어 자료) 포함 및 NER, POS 태깅과 같은 후행 작업을 위한 데이터셋 주석 처리 확장을 계획했다.

실험 결과

연구 질문

• RQ1 제한된 예산과 전문 번역가 접근성으로 인해 아쿠아페임 트위와 같은 저자원 가나어 언어에 대해 고품질의 저자원 학습 데이터를 어떻게 수집할 수 있는가?
• RQ2 커뮤니티 기반 수거 및 인간 검증된 기계 번역 데이터는 저자원 아프리카 언어에 대해 신뢰할 수 있고 사용 가능한 NLP 모델을 얼마나 잘 생성할 수 있는가?
• RQ3 오픈소스이자 커뮤니티 기반의 NLP 이니셔티브는 아칸, 에웨와 같은 저자원 언어에 대해 BERT, fastText와 같은 신경망 모델을 효과적으로 개발하고 구현할 수 있는가?
• RQ4 가나의 음성어, 다국어, 저자원 언어에 대한 NLP 인프라를 구축할 때 발생하는 주요 과제는 무엇이며, 이를 어떻게 완화할 수 있는가?
• RQ5 가나어를 위한 NLP 도구는 교육, 보건, 사이버 보안과 같은 국가적 우선 과제에 어떻게 기여할 수 있는가?

주요 결과

• NLP Ghana는 기계 번역과 인간 검토의 하이브리드 방식을 통해 약 25,000개의 고품질 영어-아쿠아페임 트위 문장 쌍을 성공적으로 수집하고 검증했다.
• 조직은 아칸, 에웨, 가를 위한 BERT 기반 및 fastText 임베딩을 오픈소스로 공개하여 분류 및 명명된 실체 인식과 같은 후행 NLP 작업을 가능하게 했다.
• 커뮤니티 기반 데이터 수집 방식을 통해 697개 이상의 문장 쌍을 확보하여 저자원 언어에 대한 커뮤니티 기반 데이터 수집의 타당성을 입증했다.
• 학술계, 산업계, 현지 언어 전문가를 포함해 100명 이상의 구성원이 참여한 다학제적 오픈소스 연구 공동체를 구축했다.
• 재정적 제약이 있었음에도 불구하고 데이터 수집 및 모델 개발 분야에서 상당한 진전을 이뤘으며, 가나 내에서 확장 가능한 NLP 인프라의 기반을 마련했다.
• 본 프로젝트는 오디오 및 기타 모odalities로의 데이터 수집 확장을 비롯해 고급 NLP 작업을 위한 주석 품질 향상을 위해 자금 및 제도적 지원이 절실한 필요성을 부각시켰다.