[논문 리뷰] Culturally Aware and Adapted NLP: A Taxonomy and a Survey of the State of the Art

Chen Cecilia Liu, Iryna Gurevych외 1명|TUbilio (Technical University of Darmstadt)|2024. 06. 06.

Natural Language Processing Techniques인용 수 4

한 줄 요약

이 논문은 개념, 가치, 규범, 언어적 형태, 유물, 사회문화적 상호작용을 포함하는 문화적 요소의 통합적이고 인류학적 기반의 분류 체계를 제안한다. 이는 문화적으로 인지하고 적응하는 NLP 연구를 체계화하기 위한 것이다. 이 분류 체계를 바탕으로 저자들은 2022–2024년 동안 출간된 ACL, EMNLP, NAACL 등의 주요 학술지에서 100편 이상의 최근 NLP 논문을 조사하여, 문화적 가치, 규범, 방언 모델링 분야에서의 주요 진전을 확인했으며, 유물, 사회문화적 역동성, 다문화 상호작용을 둘러싼 핵심적 격차를 드러냈다.

ABSTRACT

The surge of interest in "culture" in NLP has inspired much recent research, but a shared understanding of "culture" remains unclear, making it difficult to evaluate progress in this emerging area. Drawing on prior research in NLP and related fields, we propose a fine-grained taxonomy of elements in culture that can provide a systematic framework for analyzing and understanding research progress. Using the taxonomy, we survey existing resources and methods for culturally aware and adapted NLP, providing an overview of the state of the art and the research gaps that still need to be filled.

연구 동기 및 목표

• NLP 분야에서 '문화'에 대한 공통된 이해 부족이 문화적 적응 시스템의 평가와 발전을 저해하고 있기 때문에 이를 해결한다.
• 기초 인류학 문헌을 바탕으로 문화적 요소를 체계적으로 분류하여 세밀하고 실행 가능한 분류 체계를 구축한다.
• 100편 이상의 최근 NLP 논문을 분류 체계에 매핑하여 기존 자원과 모델이 분류 체계에 어떻게 분포되어 있는지 분석하고, 진전 상황과 연구 격차를 밝힌다.
• 현재 NLP 연구에서 다루지 않은 문화적 차원, 특히 유물, 사회문화적 상호작용, 다국적 방식의 규범을 부각시킨다.
• 공정하고 안전하며 문화적으로 적응 가능한 대규모 언어 모델 개발을 위한 향후 연구를 이끌어내는 체계적 프레임워크를 제공한다.

제안 방법

• 두 가지 분류 기반의 분류 체계 개발: (1) 문화적 요소(개념, 지식, 가치, 규범, 언어적 형태, 유물)와 (2) 사회문화적 요소(관계, 맥락, 소통 방식).
• 이론적 탄탄함과 개념 명확성을 확보하기 위해 표준 인류학 자료(Tylor, Kroeber & Kluckhohn, White)를 기반으로 분류 체계를 구축한다.
• ACL, EMNLP, NAACL 등에서 2022–2024년 동안 출간된 100편 이상의 최근 NLP 논문을 분류 체계에 매핑하여 다양한 문화적 차원에 대한 연구 초점의 분포를 분석한다.
• 자원과 모델을 문화적 요소 유형별로 분류하여, 어느 분야가 잘 다뤄졌는지(예: 가치, 규범)와 부족한 분야(예: 유물, 소통 방식)를 확인한다.
• 분류 체계를 활용해 문화적 적응 NLP에서 모델의 능력을 평가하고, 표면적 적응과 깊이 있는 문화적 적응을 구분한다.
• 표면적 적응과 깊이 있는 문화적 적응을 위한 프레임워크를 제안하며, 맥락, 관계, 사회문화적 역동성을 이해할 필요성을 강조한다.

Figure 1: Papers published on arXiv (cs.CL) that contain the keyword “culture”, aggregated every 3 months.

실험 결과

연구 질문

• RQ1 문화 인지 및 적응을 달성하기 위해 NLP에서 모델링해야 할 핵심 문화적 요소는 무엇인가?
• RQ2 최근 NLP 연구에서 문화는 어떻게 표현되고 있으며, 어떤 문화적 차원이 다루지 않은 채로 남아 있는가?
• RQ3 기존의 NLP 모델과 데이터셋이 관계 및 소통 규범과 같은 사회문화적 상호작용을 어느 정도 반영하고 있는가?
• RQ4 특히 유물과 다문화 소통을 모델링하는 데 있어 문화적 적응 NLP에서의 핵심 연구 격차는 무엇인가?
• RQ5 표준화된 분류 체계는 문화적으로 인지하는 NLP 시스템의 평가 및 개발을 어떻게 향상시킬 수 있는가?

주요 결과

• 분류 체계는 개념, 지식, 가치, 규범, 언어적 형태, 유물의 여섯 가지 핵심 문화적 요소와 관계, 맥락, 소통 방식의 세 가지 사회문화적 차원을 규명한다.
• 문화적 가치와 규범에 대한 연구가 가장 발전해 있으며, 각각 17편의 논문이 규범과 관련된 가치에 집중하고 있어 윤리적 및 공정성 중심의 NLP 분야에서 강력한 발전 추세를 보인다.
• 언어적 형태, 특히 방언은 가장 많이 연구된 문화적 차원으로, 17편의 논문이 방언 간 격리와 다국적 방언 NLP에 집중하고 있어 언어 다양성에 대한 높은 관심을 반영한다.
• 유물과 소통 방식은 심각하게 부족한 편으로, 각각 3편과 2편의 논문만 다루어져 문화적으로 내재된 물질적 요소와 상호작용 패턴을 모델링하는 데 있어 주요 연구 격차를 드러낸다.
• 가치와 규범 모델링에서의 진전에도 불구하고, 몇몇 모델은 사회문화적 맥락이나 관계 역동성을 통합하지 못해 LLM의 깊이 있는 문화적 적응 능력이 제한되어 있다.
• 조사를 통해 표면적 문화적 적응(예: 방언 탐지)은 잘 다뤄져 있지만, 맥락 인지 추론과 관계적 이해를 포함한 깊이 있는 문화적 적응 능력은 여전히 개발이 부족한 것으로 드러났다.

Figure 2: An overview of the taxonomy.