[논문 리뷰] Mapping Unparalleled Clinical Professional and Consumer Languages with Embedding Alignment

Wei‐Hung Weng, Peter Szolovits|arXiv (Cornell University)|2018. 06. 25.

Biomedical Text Mining and Ontologies참고 문헌 23인용 수 6

한 줄 요약

이 논문은 임의의 온톨로지나 사전에 의존하지 않고, 임의의 방법으로 임베딩을 정렬하여 임상 전문 용어를 소비자에게 친화적인 언어로 매핑하는 비지도 임베딩 정렬 방법을 제안한다. MIMIC-III 데이터셋의 서브워드 수준 임베딩에 앵커를 사용한 프로크루스테스 알고리즘을 적용함으로써, 단어 수준의 매핑을 고품질로 달성하였으며, 더 큰 일반 코퍼스보다 우수한 성능을 보였고, 환자-의사 간 소통 도구의 확장성과 온톨로지 없이도 가능함을 보여주었다.

ABSTRACT

Mapping and translating professional but arcane clinical jargons to consumer language is essential to improve the patient-clinician communication. Researchers have used the existing biomedical ontologies and consumer health vocabulary dictionary to translate between the languages. However, such approaches are limited by expert efforts to manually build the dictionary, which is hard to be generalized and scalable. In this work, we utilized the embeddings alignment method for the word mapping between unparalleled clinical professional and consumer language embeddings. To map semantically similar words in two different word embeddings, we first independently trained word embeddings on both the corpus with abundant clinical professional terms and the other with mainly healthcare consumer terms. Then, we aligned the embeddings by the Procrustes algorithm. We also investigated the approach with the adversarial training with refinement. We evaluated the quality of the alignment through the similar words retrieval both by computing the model precision and as well as judging qualitatively by human. We show that the Procrustes algorithm can be performant for the professional consumer language embeddings alignment, whereas adversarial training with refinement may find some relations between two languages.

연구 동기 및 목표

• 임상 용어와 소비자 언어의 차이로 인해 발생하는 의사-환자 간 소통 격차를 해결하기 위해.
• 전문가가 정리한 사전에 의존하지 않고, 확장 가능하고 비지도로 임상 전문 용어를 소비자 이해 가능한 표현으로 매핑하는 방법을 개발하기 위해.
• 특히 프로크루스테스와 적대적 훈련을 포함한 임베딩 정렬 기법의 성능을 평가하여 임상 텍스트에서의 다국어 간 매핑에 활용 가능성을 검토하기 위해.
• MIMIC-III와 같은 임상 서술 데이터에서 훈련된 임베딩이 PubMed나 위키백과와 같은 더 큰 일반 코퍼스에서 훈련된 임베딩보다 우수한 성능을 보이는지 확인하기 위해.
• 공통된 문자열 앵커를 통해 최소한의 감독으로 전문가 언어 공간과 소비자 언어 공간 간 의미 정렬을 학습할 수 있는지 탐색하기 위해.

제안 방법

• 임상 전문 용어가 풍부한 코퍼스(예: MIMIC-III 퇴원 요약문)와 소비자 건강 언어가 포함된 코퍼스에서 각각 서브워드 수준의 단어 임베딩을 독립적으로 훈련한다.
• 정렬된 임베딩와 목표 임베딩 간의 차이의 프로베니우스 노름을 최소화하도록 앵커를 사용한 프로크루스테스 알고리즘을 적용하여 두 임베딩 공간을 정렬한다.
• 전문가 및 소비자 임베딩 간의 공통된 분리된 표현 공간을 학습하기 위해 정제 기반의 적대적 훈련을 구현한다.
• 공통된 임베딩 공간에서의 정렬 품질을 시각화하고 정성적으로 평가하기 위해 주성분 분석(PCA)을 사용한다.
• 근접한 이웃 검색을 통해 매핑 성능을 평가한다: 주어진 임상 전문 용어와 의미적으로 유사한 소비자 용어를 검색한다.
• 수량적(정밀도) 및 정성적(인간 평가)으로 검색된 용어 쌍의 결과를 검증한다.

실험 결과

연구 질문

• RQ1 의료 온톨로지나 사전에 의존하지 않고도 비지도 임베딩 정렬이 임상 전문 용어를 소비자에게 친화적인 표현으로 효과적으로 매핑할 수 있는가?
• RQ2 MIMIC-III와 같은 임상 서술 데이터에서 훈련된 임베딩이 PubMed나 위키백과와 같은 더 큰 일반 코퍼스에서 훈련된 임베딩보다 더 나은 정렬 성능을 보이는가?
• RQ3 앵커가 있는 프로크루스테스와 정제 기반의 적대적 훈련 간의 정렬 기법은 전문가 언어와 소비자 언어 간의 의미 관계를 어떻게 비교하여 포착하는가?
• RQ4 정렬된 임베딩가 전문가 언어와 소비자 언어 간의 의미 클러스터(해부학적 용어나 질병 관련 개념 등)를 잘 포착할 수 있는가?
• RQ5 공통된 문자열 앵커는 서로 다른 임베딩 공간의 정렬 품질 향상에 어떤 역할을 하는가?

주요 결과

• 앵커를 사용한 프로크루스테스 알고리즘이 다른 방법보다 뚜렷하게 뛰어난 성능을 보였으며, 임상 전문 용어에 대해 의미적으로 유사한 소비자 용어를 높은 정밀도로 검색할 수 있었다.
• MIMIC-III 임상 서술 코퍼스에서 훈련된 임베딩가 PubMed나 위키백과와 같은 더 큰 일반 코퍼스에서 훈련된 임베딩보다 더 나은 정렬 결과를 도출하였다.
• 프로크루스테스로 정렬된 임베딩는 '종양', '암', '악성 종양'과 같은 의미적으로 관련된 용어를 잘 클러스터링했으며, '출혈성 비염'(epistaxis)을 '코피'로 높은 정확도로 매핑하였다.
• 정제 기반의 적대적 훈련은 전반적인 성능은 제한적이었지만, 특히 해부학 관련 용어 간의 의미 관계를 잘 포착하였으며, PCA 시각화를 통해 이를 확인할 수 있었다.
• 전문가가 정리한 사전이나 광범위한 인간 감독 없이도, 공통된 문자열 앵커만으로도 효과적인 단어 수준의 매핑을 달성하였다.
• 인간 평가 결과, 프로크루스테스로 정렬된 임베딩를 사용해 검색한 상위 10개의 근접 이웃 용어들이 임상 용어의 적절하고 맥락에 맞는 소비자 표현임을 확인하였다.