[論文レビュー] Don't Ignore Dual Logic Ability of LLMs while Privatizing: A Data-Intensive Analysis in Medical Domain

Yanrui Du, Sendong Zhao+5 more|arXiv (Cornell University)|Sep 8, 2023

Natural Language Processing Techniques被引用数 4

ひとこと要約

本稿では、大規模言語モデル（LLMs）が中国語の医学文献から対話的医療知識をどのように習得するかを研究するためのCALLAデータセットを紹介する。本研究では、質問に含まれる事実を批判的になく、無条件に肯定する『事実追随応答』現象を特定し、医学文献と強く相関するインstruct fine-tuning（IFT）データが、事前学習済みの医療知識を対話で正しく適用する能力を顕著に向上させることを示している。他のデータソースからのIFTデータに比べ、優れた性能を発揮する。

ABSTRACT

Extensive studies have been devoted to privatizing general-domain Large Language Models (LLMs) as Domain-Specific LLMs via feeding specific-domain data. However, these privatization efforts often ignored a critical aspect: Dual Logic Ability, which is a core reasoning ability for LLMs. The dual logic ability of LLMs ensures that they can maintain a consistent stance when confronted with both positive and negative statements about the same fact. Our study focuses on how the dual logic ability of LLMs is affected during the privatization process in the medical domain. We conduct several experiments to analyze the dual logic ability of LLMs by examining the consistency of the stance in responses to paired questions about the same fact. In our experiments, interestingly, we observed a significant decrease in the dual logic ability of existing LLMs after privatization. Besides, our results indicate that incorporating general domain dual logic data into LLMs not only enhances LLMs' dual logic ability but also further improves their accuracy. These findings underscore the importance of prioritizing LLMs' dual logic ability during the privatization process. Our study establishes a benchmark for future research aimed at exploring LLMs' dual logic ability during the privatization process and offers valuable guidance for privatization efforts in real-world applications.

研究の動機と目的

• 対話的対話設定において、LLMsが中国語の医学文献から医療知識をどのように習得し、適用するかを調査すること。
• LLMsが質問内の事実を正しさにかかわらず無批判に肯定する『事実追随応答』現象を特定し、その問題を是正すること。
• 医学文献に基づく高品質なインstruct fine-tuning（IFT）データを自動的に構築するフレームワークを設計し、対話的知識活用を向上させること。
• IFTデータの品質およびその医学文献との相関度が、LLMsの医療対話タスクにおけるパフォーマンスに与える影響を評価すること。
• 文献ベースと一般ドメインのLLMの応答を統合することで、より包括的で実用的な医療アドバイスを提供する方法を検討すること。

提案手法

• CALLAデータセットは、3つの構成要素で構成される：医学文献コーパス、教師強化学習のためのIFTデータ、およびゴールデン事実と整合的・非整合的な両方の事実を含む人工的テストデータ。
• LLMsの知識習得度を制限なく評価するため、指示や例示なしに使用される自由対話形式の事実確認タスクを評価ベンチマークとして用いる。
• LLMs（例：ChatGPT）を活用して医学文献の内容を豊富に含む対話を生成する自動IFTデータ構築フレームワークを提案し、直接的プロンプトより優れた情報統合を実現する。
• 応答における主観的表現を客観的表現に変換するデータクリーニングモジュールを含み、実世界応用における信頼性を向上させる。
• IFTデータにおける文献情報統合度を定量化するために、応答と医学文献との間の最長共通部分列（LCS）に基づくスコアを用いる。
• GPUメモリ制限のため、LoRAに基づくパラメータ効率の良い微調整を適用し、ベースLLMsをCALLAデータセットに効率的に適応可能にする。

実験結果

リサーチクエスチョン

• RQ1 LLMsは、中国語の医学文献から対話的対話設定で医療知識をどれほど効果的に習得・適用できるか？
• RQ2 『事実追随応答』現象は、LLMsの医療知識習得度の評価をどの程度歪めるか？
• RQ3 IFTデータと医学文献との相関度が、LLMsの対話的医療知識タスクにおけるパフォーマンスに与える影響は？
• RQ4 自動フレームワークは、LLMsの対話的知識活用を向上させる高品質なIFTデータを医学文献から効果的に生成できるか？
• RQ5 文献ベースと一般ドメインのLLMの応答をどのように統合すれば、より包括的で実用的な医療アドバイスが得られるか？

主な発見

• 『事実追随応答』現象により、LLMsは質問に含まれる誤った事実を肯定してしまうため、一貫性のあるテストケースのみを用いた評価では不正確な結果が得られる。
• 一貫性あり・なしの両方のテストケースを用いることで、LLMsが誤った事実を拒否できないことが明らかになり、きめ細やかな評価プロトコルの必要性が浮き彫りになった。
• 医学文献と強く相関するIFTデータは、LLMsが事前学習済みの医療知識を対話で正しく適用する能力を向上させ、事実確認タスクにおける正確性を向上させる。
• 提案された自動IFTデータ構築フレームワークにより、直接的プロンプトに比べて文献情報統合度が18.8ポイント上昇（65.86% 対 47.06%）した。
• データクリーニングにより、LLM応答における主観的表現の発生率が44%から7%に低下し、実世界応用における応答の客観性が著しく向上した。
• 文献ベースと一般ドメインのLLMの応答を統合することで、単体のモデルよりも包括的で実用的な医療アドバイスが得られた。