[논문 리뷰] Phonetic Word Embeddings

Rahul Sharma, Kunal Dhawan외 1명|arXiv (Cornell University)|2021. 09. 30.

Music and Audio Processing참고 문헌 24인용 수 4

한 줄 요약

이 논문은 청각적 유사성에 대한 인간의 인지 방식을 모방하기 위해 음소 특징, 비대각선 페널티가 있는 편집 거리, 그리고 단어 끝부분 가중치를 사용하는 새로운 음소 단어 임베딩 방법을 제안한다. 이는 영어에서 음소 유사성 작업에서 최고 성능을 기록하며, 히ン두어에 대한 첫 보고된 결과를 제공하여 벤치마크 및 이질적 농담 단어 데이터셋 모두에서 이전 방법들을 능가한다.

ABSTRACT

This work presents a novel methodology for calculating the phonetic similarity between words taking motivation from the human perception of sounds. This metric is employed to learn a continuous vector embedding space that groups similar sounding words together and can be used for various downstream computational phonology tasks. The efficacy of the method is presented for two different languages (English, Hindi) and performance gains over previous reported works are discussed on established tests for predicting phonetic similarity. To address limited benchmarking mechanisms in this field, we also introduce a heterographic pun dataset based evaluation methodology to compare the effectiveness of acoustic similarity algorithms. Further, a visualization of the embedding space is presented with a discussion on the various possible use-cases of this novel algorithm. An open-source implementation is also shared to aid reproducibility and enable adoption in related tasks.

연구 동기 및 목표

• 말하기 언어에서 인간이 청각적 유사성을 인지하는 방식을 반영하는 음소 유사성 측정 기준을 개발하는 것.
• 음소적으로 유사한 단어들이 함께 모이도록 연속적인 벡터 임베딩을 학습하여, 후속 음운론적 계산 작업을 가능하게 하는 것.
• 음소 유사성 분야에서 벤치마킹 메커니즘이 부족한 문제를 해결하기 위해 평가를 위한 이질적 농담 데이터셋을 도입하는 것.
• 특히 음소-발음 대응 비율이 높은 저자원 언어인 히ン두어에 이 방법을 확장하는 것.
• 학습 과정에서 미리 접촉하지 않은 단어들 간의 유사성 비교를 가능하게 하기 위해 학습 가능한 음소 유사성 측정 기준을 활용하는 것.

제안 방법

• 음소 이론에 영감을 받아 잘 정의된 독립적인 음소 특징 집합을 사용하여 두 음소 간의 음소 유사성을 계산하는 방법.
• 맥락적인 청각 효과를 반영하기 위해 비대각선 페널티가 있는 워거-파이저 편집 거리 알고리즘을 적용하여 음소 시퀀스를 정렬하는 방법.
• 사람의 단어 끝 소리에 대한 청각 민감도를 모델링하기 위해 새로운 단어 끝 음소 가중치 요소를 도입하는 방법.
• 음소 유사성 측정 기준을 사용하여 대비 학습 목표를 통해 연속적인 단어 임베딩을 학습하고, 유사한 발음의 단어들이 벡터 공간에서 함께 군집되도록 하는 방법.
• CMU 발음 사전을 사용하여 영어 및 히ン두어 음소 어휘를 기반으로 모델을 훈련하고 평가하며, t-SNE 시각화를 통해 군집화를 검증하는 방법.
• 모델 간의 코사인 유사성 분포를 비교하기 위해 SemEval-2017 Task 7에서 유래한 이질적 농담 데이터셋을 벤치마크로 사용하는 방법.

실험 결과

연구 질문

• RQ1 인간의 청각적 유사성 인지에 기반한 음소 유사성 측정 기준이 음소 작업을 위한 단어 임베딩 품질을 향상시킬 수 있는가?
• RQ2 기존 최고 성능 방법인 PSSVec와 비교할 때, 제안된 방법은 표준 음소 유사성 벤치마크에서 어떻게 성능을 내는가?
• RQ3 이 방법은 이전 연구가 제한된 저자원 언어인 히ン두어로 일반화될 수 있는가?
• RQ4 t-SNE 시각화 결과에 따르면, 음소적으로 유사한 단어들이 임베딩 공간에서 효과적으로 군집되는가?
• RQ5 이질적 농담에서 단어들이 비록 의미는 다르지만 발음은 유사한 경우, 모델이 청각적 유사성을 얼마나 잘 포착하는가?

주요 결과

• 제안된 방법은 영어 음소 유사성 벤치마크에서 최고 성능을 기록하며, 이전에 보고된 결과를 능가한다.
• 이 논문은 히ン두어 음소 유사성 작업에 대해 처음으로 성능 결과를 보고하며, 이는 저자원 인도어 언어에 대한 적용 가능성의 증거가 된다.
• 이질적 농담 탐지 작업에서 제안된 방법의 코사인 유사성 분포는 평균이 1에 가까운 날카로운 가우시안 분포를 이루며, 청각적 유사성을 강력하게 포착하고 있음을 나타낸다.
• 778개의 이질적 농담 쌍에서 제안된 방법은 PSSVec보다 우수한 성능을 보이며, 'mutter'와 'mother'의 평균 코사인 유사도는 0.899이지만, PSSVec는 음수인 -0.0123의 유사도를 부여한다.
• t-SNE 시각화 결과는 영어 및 히ン두어 모두에서 음소적으로 유사한 단어들이 임베딩 공간에서 함께 군집되어 있음을 확인한다.
• 모델은 훈련 과정에서 미리 접촉하지 않은 단어들에 대해서도 유사성 계산이 가능하여, OOV(Out-of-Vocabulary) 단어에 대해 강건함을 보였다.