[논문 리뷰] Dialectograms: Machine Learning Differences between Discursive Communities

Thyge Enggaard, August Lohse외 2명|arXiv (Cornell University)|2023. 02. 11.

Social Media and Politics인용 수 5

한 줄 요약

이 논문은 어휘 임베딩을 사용하여 논의 공동체 간 핵심 어휘 사용 방식의 시각적 맵핑과 정량적 분석을 가능하게 하는 새로운 비지도 학습 방법인 '다이아레크트그램'을 소개한다. 단어 수준의 차이만을 고려하는 기존 방법과는 달리, 전체 임베딩 공간을 분석함으로써, 영향력 있는 정서적 극화나 정치적 평가의 분열과 같은 미세한 언어적 차이를 드러낸다. 이는 희귀어나 다의어에 치우친 경향이 있는 기존 측정 방법의 한계를 극복한다.

ABSTRACT

Word embeddings provide an unsupervised way to understand differences in word usage between discursive communities. A number of recent papers have focused on identifying words that are used differently by two or more communities. But word embeddings are complex, high-dimensional spaces and a focus on identifying differences only captures a fraction of their richness. Here, we take a step towards leveraging the richness of the full embedding space, by using word embeddings to map out how words are used differently. Specifically, we describe the construction of dialectograms, an unsupervised way to visually explore the characteristic ways in which each community use a focal word. Based on these dialectograms, we provide a new measure of the degree to which words are used differently that overcomes the tendency for existing measures to pick out low frequent or polysemous words. We apply our methods to explore the discourses of two US political subreddits and show how our methods identify stark affective polarisation of politicians and political entities, differences in the assessment of proper political action as well as disagreement about whether certain issues require political intervention at all.

연구 동기 및 목표

• 논의 공동체 간 단일 어휘의 차이에만 초점을 맞춘 기존 방법의 한계를 해결하기 위해.
• 희소하고 고차원적인 벡터 비교에 의존하는 것 대신, 어휘 임베딩 공간의 전체 풍부한 정보를 활용하기 위해.
• 공동체가 특정 어휘를 어떻게 특징적으로 사용하는지 탐색할 수 있는 시각적이고 정량적인 도구를 개발하기 위해.
• 희귀어나 다의어에 치우친 편향을 피하는 안정적인 어휘 분리 측정법을 만들기 위해.
• 실세계 정치적 논의에 적용하여, 공동체 간 정치적 언어의 구조적 차이를 드러내기 위해.

제안 방법

• 다양한 논의 공동체에서 수집한 텍스트 코퍼스에 대해 사전에 학습된 언어 모델을 사용해 어휘 임베딩을 구축한다.
• 각 핵심 어휘에 대해 해당 어휘의 임베딩 벡터를 추출하고, 공동체별로 특화된 임베딩 공간 내에서의 분포를 분석한다.
• 각 공동체의 의미 공간 내에서 어휘의 임베딩이 공간적으로 군집화되고 방향성이 변화하는 정도를 시각화함으로써 다이아레크트그램을 생성한다.
• 코사인 유사도 및 방향성 분산과 같은 통계적 측정법을 사용해 임베딩 공간의 분리 정도를 정량화한다.
• 의미적 중심성과 분포의 산란 정도를 모두 고려하는 새로운 분리 측정법을 적용하여, 희귀어나 모호한 어휘에 치우친 편향을 줄인다.
• 미국 정치 소셜미디어 커뮤니티인 r/Political_Webcomic과 r/Political_StackExchange 두 곳을 대상으로 방법을 검증하여 정치적 논의의 차이를 분석한다.

실험 결과

연구 질문

• RQ1 고립된 어휘 비교를 넘어서, 논의 공동체 간 어휘 사용의 전반적인 차이를 어떻게 시각화하고 정량화할 수 있는가?
• RQ2 어휘 임베딩의 공간적 구조는 공동체 특유의 언어 패턴을 어떻게 반영하는가?
• RQ3 기존의 어휘 분리 측정법은 왜 희귀어나 다의어에 치우친 편향으로 인해 의미 있는 차이를 포착하지 못하는가?
• RQ4 정치적 서브레딧 커뮤니티는 정치어휘에 대해 얼마나 다를 정도로 정서적 또는 평가적 사용 방식을 보이는가?
• RQ5 다이아레크트그램은 정치적 간섭의 필요성에 대한 의견 차이와 같은 정치적 논의의 구조적 차이를 드러낼 수 있는가?

주요 결과

• 다이아레크트그램은 정치인과 정치적 실체에 대한 표현에서 뚜렷한 정서적 극화를 성공적으로 드러내었으며, 각 서브레딧에서 서로 다른 정서적 성향이 확인되었다.
• 이 방법은 공동체 간 정치적 행동 평가 방식의 체계적 차이를 특정하여, 특정 행동이 합법적인지 불법적인지 여부에 대한 인식의 차이를 드러냈다.
• 특정 문제들이 정치적 간섭이 필요한지 여부에 대한 공동체 간 인식의 차이가, 관련 어휘의 의미적 위치에 반영되어 있음을 확인했다.
• 희귀어나 다의어에 민감도가 낮아지도록 개선된 제안된 분리 측정법은 기존 측정법보다 우수한 성능을 보였으며, 더 안정적이고 해석 가능한 결과를 도출했다.
• 분석 결과, 기존의 단일 어휘 비교 기법이 포착하지 못하는, 어휘 임베딩 내에 풍부하고 구조화된 사용 차이가 존재함을 확인했다.
• 이 방법은 기존의 NLP 기법이 고립된 어휘 차이에만 집중하는 데서 벗어나, 미세한 공동체 특화 의미 패턴을 드러내었다.