[논문 리뷰] Enriching Consumer Health Vocabulary Using Enhanced GloVe Word Embedding

Mohammed Ibrahim, Susan Gauch외 2명|arXiv (Cornell University)|2020. 03. 31.

Natural Language Processing Techniques참고 문헌 8인용 수 11

한 줄 요약

이 논문은 소비자 생성 소셜 미디어 텍스트에서 소비자 중심의 보편적인 언어로 된 건강 용어를 생성하기 위해 기존 소비자 건강 어휘(CHV) 용어로부터 반복 피드백을 활용하는 개선된 GloVe 단어 임베딩 방법을 제안한다. 기존의 CHV 용어를 기반으로 단어 임베딩을 정제함으로써, 일반인 친화적인 건강 용어 탐지 능력이 향상되며, 표준 GloVe보다 우수하고 기존 CHV에 포함되지 않은 새로운 용어를 식별함으로써 환자 중심의 건강 용어 체계가 풍부해진다.

ABSTRACT

Open-Access and Collaborative Consumer Health Vocabulary (OAC CHV, or CHV for short), is a collection of medical terms written in plain English. It provides a list of simple, easy, and clear terms that laymen prefer to use rather than an equivalent professional medical term. The National Library of Medicine (NLM) has integrated and mapped the CHV terms to their Unified Medical Language System (UMLS). These CHV terms mapped to 56000 professional concepts on the UMLS. We found that about 48% of these laymen's terms are still jargon and matched with the professional terms on the UMLS. In this paper, we present an enhanced word embedding technique that generates new CHV terms from a consumer-generated text. We downloaded our corpus from a healthcare social media and evaluated our new method based on iterative feedback to word embedding using ground truth built from the existing CHV terms. Our feedback algorithm outperformed unmodified GLoVe and new CHV terms have been detected.

연구 동기 및 목표

• 소비자 중심으로 의도된 바에도 불구하고 거의 절반의 소비자 건강 어휘(CHV) 용어가 아직도 전문 용어로 간주되는 한계를 해결하기 위해.
• 소비자 건강 소셜 미디어의 소비자 생성 텍스트에서 자동으로 새로운 보편적인 언어로 된 건강 용어를 탐지하는 방법을 개발하기 위해.
• 기존의 CHV 용어로부터 반복 피드백을 활용하여 단어 임베딩을 향상시켜 의미적으로 관련성 있는 비전문 용어를 탐지하는 능력을 향상시키기 위해.
• 환자가 실제로 건강 상태를 어떻게 묘사하는지 반영하는 데 더 나은 새로운 용어를 식별하고 검증함으로써 CHV를 풍부하게 하기 위해.

제안 방법

• 본 방법은 소비자 건강 코퍼스 내 단어의 기본 임베딩 표현으로 사전에 훈련된 GloVe 모델을 사용한다.
• 피드백 메커니즘이 기존의 CHV 용어와의 의미 유사도를 활용하여 반복적으로 단어 임베딩을 정제하며, 코사인 유사도를 사용해 새로운 용어를 기존 용어들과 정렬한다.
• 피드백 루프는 기준이 되는 CHV 용어에 가까운 위치에 있는 단어 벡터를 조정함으로써, 모델이 의미적으로 관련성 있는 새로운 용어를 탐지하는 능력을 향상시킨다.
• 정제된 임베딩에서 고빈도이면서 전문 용어 수준이 낮은 단어들 중에서 CHV 용어와 의미적으로 가까운 단어들을 기반으로 새로운 후보 용어를 추출한다.
• 검출된 용어의 임상적 관련성을 검증하기 위해 통합 의학어휘 시스템(UMLS) 매핑을 활용한다.
• 평가 과정에서는 기준으로 삼을 수 있는 알려진 CHV 용어들을 포함한 별도의 테스트 세트를 사용하여, 개선된 모델의 성능을 표준 GloVe와 비교한다.

실험 결과

연구 질문

• RQ1 단어 임베딩에 대한 반복 피드백이 소비자 생성 텍스트 내 보편적인 언어로 된 건강 용어 탐지 능력을 향상시킬 수 있는가?
• RQ2 개선된 GloVe 모델은 표준 GloVe에 비해 새로운 비전문 용어를 탐지하는 데 얼마나 효과적인가?
• RQ3 개선된 모델이 탐지한 새로운 용어 중 의미적으로 관련성이 있고 기존 CHV 용어와 일치하는 비율은 얼마인가?
• RQ4 환자의 언어에 더 가까운 용어를 발견함으로써, 소비자 건강 어휘의 전문 용어 비율을 어느 정도 줄일 수 있는가?
• RQ5 피드백 메커니즘이 언어적으로 단순하면서도 임상적으로 의미 있는 용어로 단어 임베딩을 효과적으로 이끌 수 있는가?

주요 결과

• 개선된 GloVe 모델은 소비자 소셜 미디어 텍스트에서 새로운 보편적인 언어로 된 건강 용어를 탐지하는 데 표준 GloVe보다 뛰어난 성능을 보였다.
• 피드백 메커니즘이 탐지된 용어의 의미적 관련성을 크게 향상시켜, 새로운 용어 탐지 정밀도가 증가했다.
• 기존 CHV 용어의 약 48%가 여전히 전문 용어로 간주되어, 환자 중심의 자연스러운 언어로의 어휘 보완이 필요함을 시사했다.
• 본 방법은 원래 CHV에 존재하지 않았지만 기존의 일반어 용어와 의미적으로 일치하는 새로운 후보 용어를 성공적으로 식별했다.
• 환자 중심의 용어 체계를 보다 잘 포착하는 데서 성능 향상이 나타났으며, 특히 언어적 단순성과 임상적 관련성 측면에서 유의미했다.
• 평가 결과, 개선된 모델이 환자가 건강 상태를 묘사하는 방식을 더 잘 반영하는 의미 있는 중복 없는 용어를 탐지할 수 있음을 확인했다.