[論文レビュー] Graph-Evolving Meta-Learning for Low-Resource Medical Dialogue Generation

Shuai Lin, Pan Zhou+5 more|arXiv (Cornell University)|Dec 22, 2020

Topic Modeling被引用数 8

ひとこと要約

本稿では、共通の病気・症状関係から初期化されたメタ知識グラフを用い、少数のショット対話例を用いて動的に進化させる、低リソース医療対話生成のための新規フレームワークであるGraph-Evolving Meta-Learning (GEML) を提案する。メタラーニングとグラフ推論を統合することで、最小限のデータで新しい疾患に迅速に適応可能となり、CMDDおよびChunyuデータセットにおいて診断精度と応答品質が顕著に向上する。

ABSTRACT

Human doctors with well-structured medical knowledge can diagnose a disease merely via a few conversations with patients about symptoms. In contrast, existing knowledge-grounded dialogue systems often require a large number of dialogue instances to learn as they fail to capture the correlations between different diseases and neglect the diagnostic experience shared among them. To address this issue, we propose a more natural and practical paradigm, i.e., low-resource medical dialogue generation, which can transfer the diagnostic experience from source diseases to target ones with a handful of data for adaptation. It is capitalized on a commonsense knowledge graph to characterize the prior disease-symptom relations. Besides, we develop a Graph-Evolving Meta-Learning (GEML) framework that learns to evolve the commonsense graph for reasoning disease-symptom correlations in a new disease, which effectively alleviates the needs of a large number of dialogues. More importantly, by dynamically evolving disease-symptom graphs, GEML also well addresses the real-world challenges that the disease-symptom correlations of each disease may vary or evolve along with more diagnostic cases. Extensive experiment results on the CMDD dataset and our newly-collected Chunyu dataset testify the superiority of our approach over state-of-the-art approaches. Besides, our GEML can generate an enriched dialogue-sensitive knowledge graph in an online manner, which could benefit other tasks grounded on knowledge graph.

研究の動機と目的

• 新規疾患に対して対話インスタンスが少ないという低リソース医療対話生成の課題に対処すること。
• 共通の病気・症状相関を活用して、高リソース疾患から低リソース疾患へ診断知識を転移すること。
• 新しい臨床例に伴い変化する病気・症状関係をモデル化し、静的知識グラフの限界を克服すること。
• 最小限の対話ターンで医学的に整合性があり、滑らかな応答を生成する対話システムを開発すること。
• わずか数個の対話例のみで、モデルが新しい疾患に迅速に適応できることを実現すること。

提案手法

• 階層的コンテキストエンコーダーを採用し、対話履歴をマルチレベル表現で表現する。
• メタ知識グラフ推論（MGR）モジュールは、流入する対話データに基づいてパラメータ化されたメタ知識グラフを動的に進化させる。
• メタ知識グラフは共通の知識グラフから初期化され、実際の対話例から導出されたエンティティおよび関係で拡張される。
• 再帰的最適化（Reptileアルゴリズム）を用いたメタラーニングにより、少数のショットで新しい疾患に迅速に適応可能なメタ初期化を学習する。
• グラフガイド付き応答生成モジュールは、進化するメタ知識グラフに基づき、症状照会応答または診断応答を生成する。
• グラフの進化は推論中にオンラインで実行され、より多くの症例が観察されるにつれて、新しい病気・症状パターンにモデルが適応可能となる。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングフレームワークは、低リソース疾患における医療対話生成において、高リソース疾患から診断知識を効果的に転移できるか？
• RQ2 推論中に知識グラフをどのように動的に進化させれば、現実世界の病気・症状相関の変化を反映できるか？
• RQ3 グラフ進化は、低リソース環境下で応答品質と診断精度をどの程度向上させるか？
• RQ4 提案手法は、高精度なエンティティ予測F1スコアを維持しつつ、対話ターンを削減できるか？
• RQ5 メタ知識グラフ推論の統合は、医療対話システムにおけるショット学習適応をどの程度向上させるか？

主な発見

• GEML-MGRはCMDDデータセットで39.37の最高エンティティ-F1スコアを達成し、Chunyuデータセットでは38.67を記録し、すべてのベースラインを顕著に上回った。
• Chunyuデータセットでは、GEML-MGRがBLEUスコア23.07およびエンティティ-F1スコア38.67を達成し、低リソース環境下での優れた性能を示した。
• 人間評価では、GEML-MGRは知識の整合性および生成品質の両面で、Meta-MGRおよびFT-MGRと比較して有意に高いスコア（p < 0.01）を記録した。
• アブレーションスタディーにより、グラフ推論またはコピーメカニズムを削除すると性能が著しく低下することが確認され、これらが重要であることが示された。
• 可視化結果から、メタ知識グラフが「borborygmus」や「exhaust」など以前に欠落していたエンティティを含むように進化しており、診断の関連性が向上した。
• モデルは高精度を維持しながら対話ターンを削減しており、効率的な症状照会と迅速な診断を示している。