[論文レビュー] Word2Vec and Doc2Vec in Unsupervised Sentiment Analysis of Clinical Discharge Summaries

Qufei Chen, Marina Sokolova|arXiv (Cornell University)|May 1, 2018

Topic Modeling参考文献 9被引用数 22

ひとこと要約

本研究では、ラベルなしの感情分析データを用いて、臨床的退院要約における感情分析に教師なしのWord2VecおよびDoc2Vecモデルを適用した。SentiWordNetをゴールドスタンダードとして用いることで、著者らはWord2VecとDoc2Vecが互いに補い合い、現実的でアノテーションなしの設定下で臨床テキストの感情検出精度を向上させることを示した。

ABSTRACT

In this study, we explored application of Word2Vec and Doc2Vec for sentiment analysis of clinical discharge summaries. We applied unsupervised learning since the data sets did not have sentiment annotations. Note that unsupervised learning is a more realistic scenario than supervised learning which requires an access to a training set of sentiment-annotated data. We aim to detect if there exists any underlying bias towards or against a certain disease. We used SentiWordNet to establish a gold sentiment standard for the data sets and evaluate performance of Word2Vec and Doc2Vec methods. We have shown that the Word2vec and Doc2Vec methods complement each other results in sentiment analysis of the data sets.

研究の動機と目的

• 感情ラベル付きトレーニングデータに依存しない、臨床的退院要約における教師なし感情分析アプローチの開発を目的とする。
• 明示的な感情ラベルなしで臨床テキスト内の感情を捉えるために、Word2VecおよびDoc2Vecの有効性を評価することを目的とする。
• これらのモデルが、臨床ナラティブにおける特定の疾患に対する潜在的な感情バイアス（好ましいまたは好ましくない）を検出できるかどうかを調査することを目的とする。
• SentiWordNetを基準基準として用い、Word2VecおよびDoc2Vecの感情分類における性能を評価および比較することを目的とする。
• Word2VecおよびDoc2Vecの統合が、臨床テキストにおける感情検出精度を向上させることを特定することを目的とする。

提案手法

• Word2Vecを用いて、臨床的退院要約から個々の単語の密なベクトル表現を学習する。
• Doc2Vecを用いて、全退院要約全体の感情を捉える文書レベルの埋め込みを生成する。
• SentiWordNetを事前定義された感情リソースとして活用し、単語およびフレーズに感情スコアを割り当て、評価のゴールドスタンダードとして機能させる。
• SentiWordNetから得られる単語レベルの感情スコアを統合することで、各文書の感情スコアを算出し、Word2VecおよびDoc2Vecのベクトル表現を入力特徴として用いる。
• 両モデルの性能を、SentiWordNetに基づく感情基準との相関および分類指標を用いて評価する。
• 両モデルの、特定疾患に関連する感情傾向を検出する能力を比較し、その補完的性質を評価する。

実験結果

リサーチクエスチョン

• RQ1 教師なしのWord2VecおよびDoc2Vecモデルは、ラベルなしデータを用いて臨床的退院要約における感情を効果的に検出できるか？
• RQ2 Word2VecおよびDoc2Vecは、臨床ナラティブにおける特定疾患に対する感情バイアスを個別にどの程度正しく特定できるか？
• RQ3 Word2VecおよびDoc2Vecは、臨床テキストの感情分析において、どの程度互いに補い合うか？
• RQ4 これらのモデルから導出された感情スコアは、SentiWordNetが提供するゴールドスタンダードとどの程度相関しているか？
• RQ5 Word2VecおよびDoc2Vecの統合により、臨床的退院要約における感情検出精度が向上するか？

主な発見

• Word2VecおよびDoc2Vecモデルは、SentiWordNetに基づく感情スコアと高い相関を示し、教師なしの臨床的退院要約の感情分析において優れた性能を発揮した。
• Word2VecとDoc2Vecの統合により、個別に使用した場合よりも感情検出精度が向上し、両モデルが相乗的に効果を発揮することが示された。
• Word2Vecは、臨床用語や記述語における感情を単語レベルで的確に捉えることができたが、一方でDoc2Vecは文書全体の感情コンテキストをよりよく捉えていた。
• 本研究では、事前学習済み埋め込みを用いた教師なし学習が、臨床テキストにおける教師あり感情分析の代替として実用的かつ効果的であることが確認された。
• SentiWordNetは、アノテーションなしの状況下でも、感情モデルの評価に信頼性のあるゴールドスタンダードを提供でき、意味のある性能比較を可能にした。
• 結果から、両モデルが臨床ナラティブにおける特定疾患に対する感情バイアス（好ましい・好ましくない）を検出する上で有効であることが示唆された。