[论文解读] Exploration on Generating Traditional Chinese Medicine Prescription from Symptoms with an End-to-End method

Wei Li, Yang Zheng+1 more|arXiv (Cornell University)|Jan 27, 2018

Natural Language Processing Techniques参考文献 18被引用 20

一句话总结

本文提出一种端到端的序列到序列模型，结合覆盖机制与软损失函数，从文本症状描述生成中医方剂。该方法通过建模整体病机而非孤立症状，减少重复并提升召回率，专业评估得分为7.3/10。

ABSTRACT

Traditional Chinese Medicine (TCM) is an influential form of medical treatment in China and surrounding areas. In this paper, we propose a TCM prescription generation task that aims to automatically generate a herbal medicine prescription based on textual symptom descriptions. Sequence-to-sequence (seq2seq) model has been successful in dealing with sequence generation tasks. We explore a potential end-to-end solution to the TCM prescription generation task using seq2seq models. However, experiments show that directly applying seq2seq model leads to unfruitful results due to the repetition problem. To solve the problem, we propose a novel decoder with coverage mechanism and a novel soft loss function. The experimental results demonstrate the effectiveness of the proposed approach. Judged by professors who excel in TCM, the generated prescriptions are rated 7.3 out of 10. It shows that the model can indeed help with the prescribing procedure in real life.

研究动机与目标

• 为解决缺乏基于人工智能的自动中医方剂生成工具，以症状描述为输入生成方剂。
• 克服标准序列到序列模型在生成中医草药组合时的重复问题。
• 减少序列到序列模型对严格顺序的依赖，该依赖限制了对无序草药方剂的生成性能。
• 开发一种能够捕捉中医整体辨证（'bianzheng'）而非孤立处理症状的模型。
• 通过专家评估衡量模型的临床相关性，旨在辅助而非取代人类医师。

提出的方法

• 采用端到端的序列到序列（seq2seq）架构，编码器用于症状编码，解码器用于草药序列生成。
• 在解码器中引入一种新颖的覆盖机制，通过监控先前生成标记的注意力，追踪并惩罚重复的草药生成。
• 提出一种软损失函数，通过在训练期间允许草药顺序的灵活性，放松标准序列到序列模型对严格顺序的约束。
• 在从中医经典和数字资源中提取的82,044对症状-方剂数据集上进行模型训练。
• 在推理阶段应用后处理，以去除重复项并确保方剂格式的有效性。
• 结合自动指标与专家评估，以衡量生成质量与临床相关性。

实验结果

研究问题

• RQ1 序列到序列模型能否有效从自然语言症状描述中生成中医方剂？
• RQ2 标准序列到序列模型中的重复问题在中医方剂生成中如何影响生成质量？
• RQ3 覆盖机制在多大程度上可减少中医方剂生成中的冗余草药生成？
• RQ4 软损失函数如何通过放松严格标记顺序约束来提升模型性能？
• RQ5 该模型能否生成体现整体辨证（'bianzheng'）而非孤立处理症状的方剂？

主要发现

• 与基线序列到序列模型相比，所提模型显著减少了生成方剂中的重复现象。
• 模型获得7.3/10的专业评估得分，表明其具有较强的临床相关性与实际应用价值。
• 在专家评估中，该模型优于基础序列到序列模型与多标签基线模型，尤其在捕捉病机方面表现更优。
• 覆盖机制在解码过程中有效追踪并抑制了重复草药标记的生成。
• 软损失函数通过允许草药顺序的灵活性，提升了召回率，更符合中医方剂弱序结构的特点。
• 该模型展现出更强的整体病机理解能力（'bianzheng'），而非基于孤立症状生成草药。