[논문 리뷰] Unsupervised Graph-based Topic Modeling from Video Transcriptions.

Lukas Stappen, Gerhard Hagerer외 2명|arXiv (Cornell University)|2021. 05. 04.

Topic Modeling인용 수 1

한 줄 요약

이 논문은 신경어임베딩과 그래프 클러스터링을 활용하여 사전에 주어진 토픽 수가 필요 없이 일관된 토픽을 탐지하는 비지도 그래프 기반 토픽 모델링 방법을 제안한다. MuSe-CaR 및 텍스트 전용 리뷰 데이터셋에서 평가한 결과, 다중모odal 및 순수 텍스트 데이터 모두에서 베이스라인보다 높은 토픽 일관성과 효과적인 일반화 성능을 보였다.

ABSTRACT

To unfold the tremendous amount of audiovisual data uploaded daily to social media platforms, effective topic modelling techniques are needed. Existing work tends to apply variants of topic models on text data sets. In this paper, we aim at developing a topic extractor on video transcriptions. The model improves coherence by exploiting neural word embeddings through a graph-based clustering method. Unlike typical topic models, this approach works without knowing the true number of topics. Experimental results on the real-life multimodal data set MuSe-CaR demonstrates that our approach extracts coherent and meaningful topics, outperforming baseline methods. Furthermore, we successfully demonstrate the generalisability of our approach on a pure text review data set.

연구 동기 및 목표

• 소셜 미디어 플랫폼에서 대규모 영상 녹취록에서 의미 있는 토픽을 추출하는 문제를 해결하기 위해.
• 사전에 진짜 토픽 수가 필요로 하지 않는 토픽 모델링 방법을 개발하기 위해.
• 신경어임베딩을 그래프 기반 클러스터링 기법과 통합하여 토픽 일관성을 향상시키기 위해.
• 다중모달 영상 데이터에서의 효과성과 순수 텍스트 리뷰 데이터셋으로의 일반화 능력을 평가하기 위해.

제안 방법

• 노드는 단어를 나타내고, 간선은 신경어임베딩에서 유도된 의미 유사도로 가중치가 부여된 그래프를 구축한다.
• 그래프 클러스터링을 통해 의미적으로 관련된 단어들을 사전에 주어진 토픽 수 없이 일관된 토픽으로 그룹화함으로써 토픽을 탐지한다.
• 영상 녹취록 내 단어 간 의미 관계를 포괄하기 위해 사전에 학습된 어임베딩을 활용한다.
• 밀도 높은 부분그래프를 식별함으로써 고유한 토픽에 해당하는 클러스터를 도출하기 위해 그래프에 클러스터링을 적용한다.
• 레이블이 없는 데이터나 토픽 수 지정이 필요 없는 비지도 프레임워크로 설계되어 있다.

실험 결과

연구 질문

• RQ1 사전에 토픽 수를 알지 못한 채, 어임베딩의 그래프 기반 클러스터링이 영상 녹취록에서 일관된 토픽을 추출할 수 있는가?
• RQ2 영상 녹취록 데이터에서 제안된 방법이 기존 토픽 모델링 기법에 비해 토픽 일관성 측면에서 어떻게 성능을 내는가?
• RQ3 이 방법은 순수 텍스트 리뷰 데이터셋으로까지 얼마나 잘 일반화되는가?
• RQ4 어임베딩의 통합이 비지도 환경에서 토픽 품질을 향상시키는가?

주요 결과

• 제안된 방법은 MuSe-CaR 다중모달 영상 녹취록 데이터셋에서 기존 토픽 모델링 기법들보다 높은 토픽 일관성 점수를 달성한다.
• 모델은 토픽 수를 사전에 지정하지 않고도 영상 녹취록에서 의미 있고 해석 가능한 토픽을 성공적으로 탐지한다.
• 순수 텍스트 리뷰 데이터셋으로의 일반화 성능이 뛰어나 다양한 텍스트 모odal 간에 강건함을 입증한다.
• 어임베딩와 그래프 기반 클러스터링을 통합함으로써 전통적인 토픽 모델링 대비 토픽 품질이 크게 향상된다.