[論文レビュー] Comprehensive Study on German Language Models for Clinical and Biomedical Text Understanding

Ahmad Idrissi-Yaghir, Amin Dada+18 more|arXiv (Cornell University)|Apr 8, 2024

Biomedical Text Mining and OntologiesBiochemistry, Genetics and Molecular Biology被引用数 3

ひとこと要約

本論文では、24億トークンの翻訳済み英語医学テキストと30億トークンのドイツ語臨床データを用いた連続的プレトレーニングにより微調整されたドイツ語医療および臨床言語モデルを導入し、評価している。結果から、翻訳ベースのモデルが臨床データから訓練されたモデルと同等またはそれを上回る性能を示しており、翻訳によるドメイン適応と臨床データを用いたプレトレーニングが、ドイツ語医療NLPタスクの性能を顕著に向上させることを示している。

ABSTRACT

Recent advances in natural language processing (NLP) can be largely attributed to the advent of pre-trained language models such as BERT and RoBERTa. While these models demonstrate remarkable performance on general datasets, they can struggle in specialized domains such as medicine, where unique domain-specific terminologies, domain-specific abbreviations, and varying document structures are common. This paper explores strategies for adapting these models to domain-specific requirements, primarily through continuous pre-training on domain-specific data. We pre-trained several German medical language models on 2.4B tokens derived from translated public English medical data and 3B tokens of German clinical data. The resulting models were evaluated on various German downstream tasks, including named entity recognition (NER), multi-label classification, and extractive question answering. Our results suggest that models augmented by clinical and translation-based pre-training typically outperform general domain models in medical contexts. We conclude that continuous pre-training has demonstrated the ability to match or even exceed the performance of clinical models trained from scratch. Furthermore, pre-training on clinical data or leveraging translated texts have proven to be reliable methods for domain adaptation in medical NLP tasks.

研究の動機と目的

• 高品質なドイツ語医療NLPリソースの不足に対処するために、ドメイン特化型言語モデルを開発すること。
• 翻訳済みまたは臨床ドイツ語データを用いた連続的プレトレーニングが、下流の医療NLPタスクのパフォーランスに与える影響を調査すること。
• 翻訳ベースのプレトレーニングと私的臨床データを用いたプレトレーニングの有効性を比較すること。
• 新たに開発されたドイツ語言語モデルのパフォーマンスを、複数の臨床および生物医学的NLPタスクで評価すること。
• ドイツ語医療言語モデルの訓練における、データプライバシー、モデルパフォーマンス、アクセス可能性のトレードオフを評価すること。

提案手法

• 英語からドイツ語に翻訳された24億トークンのPubMed要約を用いて、ドイツ語BERTベースの複数のモデルを連続的にプレトレーニングした。
• ドイツの大手病院から得た匿名化・個人特定情報が削除された30億トークンのドイツ語臨床ノートを用いて、追加のモデルを連続的にプレトレーニングした。
• 得られたモデルを、名前付きエンティティ認識（NER）、マルチラベル分類、抽出型質問応答、および2つの臨床ベンチマークタスク（RadQAとMedNLI）の5つの下流タスクで微調整した。
• 翻訳ベースのモデルと臨床データベースのモデルのパフォーマンスを、一般ドメイン（例：GBERT）、生物医学的、臨床ドイツ語モデルと比較した。
• すべてのタスクで標準的なNLP評価指標（F1スコア、正答率、正確一致）を用いた。
• データプライバシーを確保するため、特許を取得した臨床データを用いて訓練されたモデルは共有せず、翻訳ベースのモデルのみを公開した。

実験結果

リサーチクエスチョン

• RQ1 翻訳済み生物医学的テキストを用いた連続的プレトレーニングにより、一般ドイツ語言語モデルを臨床ドメインに効果的に適応させられるか？
• RQ2 翻訳データを用いてプレトレーニングしたモデルのパフォーマンスと、私的臨床データを用いてプレトレーニングしたモデルのパフォーランスは、ドイツ語医療NLPタスクでどのように比較されるか？
• RQ3 翻訳ベースのプレトレーニングが、高いパフォーランスを維持しつつ、感受性の高い臨床データへの依存をどれほど低減できるか？
• RQ4 どの下流タスクにおいて、臨床特化型プレトレーニングが翻訳ベースのプレトレーニングよりも顕著な利点を提供するか？
• RQ5 公開済みの翻訳データを用いて訓練されたモデルは、大規模な私的臨床データセットを用いて訓練されたモデルと同等のパフォーマンスを達成できるか？

主な発見

• 600万件の翻訳済みPubMed要約を用いてプレトレーニングした翻訳ベースのモデルは、ほとんどの下流タスクで大規模な臨床モデルと同等のパフォーマンスを示した。
• RadQAのような臨床特化タスクでは、私的臨床データを用いて訓練したモデルが翻訳ベースのモデルを上回った。これは、ドメイン特化データの価値を示している。
• 5つの評価された下流タスクにおいて、臨床データを用いてプレトレーニングしたモデルは、GBERTのような一般ドメインドイツ語モデルを常に上回った。特に、複雑な臨床推論タスクで顕著な優位性を示した。
• 抽出型質問応答とNERでは、翻訳ベースと臨床データベースのモデルのパフォーマンス差が最小限に抑えられ、翻訳データが医療用語の本質を効果的に捉えていることを示している。
• 600万件の翻訳要約のみを用いても、翻訳ベースのモデルは、いくつかのタスクで、初めから訓練したモデルと同等またはそれを上回るパフォーマンスを達成しており、トランスファー学習の効率性を示している。
• 本研究は、臨床データまたは高品質な翻訳済み生物医学的テキストを用いた連続的プレトレーニングが、ドイツ語医療NLPにおけるドメイン適応の信頼性と有効な戦略であることを確認している。