[논문 리뷰] Exploration on Generating Traditional Chinese Medicine Prescription from Symptoms with an End-to-End method

Wei Li, Yang Zheng외 1명|arXiv (Cornell University)|2018. 01. 27.

Natural Language Processing Techniques참고 문헌 18인용 수 20

한 줄 요약

이 논문은 텍스트 형태의 증상 기술에서 전통 중국의학(TCM) 처방을 생성하기 위해 커버리지 메커니즘과 소프트 손실 함수를 갖춘 엔드 투 엔드 시퀀스 투 시퀀스 모델을 제안한다. 이 방법은 고립된 증상이 아닌 통합된 질환 패턴을 모델링하여 반복을 줄이고 재현율을 향상시켜 전문가 평가 점수 7.3/10을 달성한다.

ABSTRACT

Traditional Chinese Medicine (TCM) is an influential form of medical treatment in China and surrounding areas. In this paper, we propose a TCM prescription generation task that aims to automatically generate a herbal medicine prescription based on textual symptom descriptions. Sequence-to-sequence (seq2seq) model has been successful in dealing with sequence generation tasks. We explore a potential end-to-end solution to the TCM prescription generation task using seq2seq models. However, experiments show that directly applying seq2seq model leads to unfruitful results due to the repetition problem. To solve the problem, we propose a novel decoder with coverage mechanism and a novel soft loss function. The experimental results demonstrate the effectiveness of the proposed approach. Judged by professors who excel in TCM, the generated prescriptions are rated 7.3 out of 10. It shows that the model can indeed help with the prescribing procedure in real life.

연구 동기 및 목표

• 자연어 증상 기술에서 자동으로 TCM 처방을 생성할 수 있는 AI 기반 도구의 부족을 해결하기 위해.
• 표준 시퀀스 투 시퀀스 모델에서 TCM 약재 조합 생성 시 반복 문제를 해결하기 위해.
• 순서에 민감한 제약 조건으로 인해 순서 없는 약재 처방에서 성능이 떨어지는 시퀀스 투 시퀀스 모델의 엄격한 순서 의존성을 줄이기 위해.
• 고립된 증상이 아닌 TCM의 통합적 '변증'(pattern differentiation)을 포괄적으로 포착하는 모델을 개발하기 위해.
• 전문가 평가를 통해 모델의 임상적 관련성을 평가하여 인간 전문가를 대체하기보다는 지원하기 위한 목적으로.

제안 방법

• 증상 인코딩을 위한 인코더와 약재 시퀀스 생성을 위한 디코더를 갖춘 엔드 투 엔드 시퀀스 투 시퀀스(seq2seq) 아키텍처를 채택한다.
• 이미 생성된 토큰들에 대한 어텐션을 모니터링하여 반복적인 약재 생성을 추적하고 처벌하는 디코더에 새로운 커버리지 메커니즘을 도입한다.
• 표준 seq2seq의 엄격한 순서 제약 조건을 완화하여 훈련 중에 유연한 약재 순서를 허용함으로써 성능을 향상시키는 소프트 손실 함수를 제안한다.
• TCM 고전 및 디지털 자료에서 추출한 총 82,044개의 증상-처방 쌍으로 구성된 정제된 데이터셋을 사용해 모델을 훈련한다.
• 추론 과정에서 중복 제거 및 유효한 처방 형식 유지의 목적을 위해 후처리를 적용한다.
• 자동 평가 지표와 전문가 평가를 병행하여 생성 품질과 임상적 관련성을 평가한다.

실험 결과

연구 질문

• RQ1 표준 시퀀스 투 시퀀스 모델은 자연어 증상 기술에서 TCM 처방을 효과적으로 생성할 수 있는가?
• RQ2 표준 seq2seq 모델에서 발생하는 반복 문제는 TCM 처방 생성 품질에 어떤 영향을 미치는가?
• RQ3 커버리지 메커니즘이 TCM 처방 생성에서 반복적인 약재 생성을 어느 정도 줄일 수 있는가?
• RQ4 소프트 손실 함수는 엄격한 토큰 순서 제약 조건을 완화함으로써 모델 성능을 어떻게 향상시키는가?
• RQ5 모델은 고립된 증상에 기반하는 것이 아니라 통합적인 '변증'(pattern differentiation)을 반영한 처방을 생성할 수 있는가?

주요 결과

• 제안된 모델은 기준 seq2seq 모델 대비 생성된 처방에서 반복을 크게 줄였다.
• 모델은 전문가 평가에서 7.3점(만점 10점)을 기록하여 강력한 임상적 관련성과 실용적 유용성을 보였다.
• 전문가 평가에서 기본 seq2seq 모델과 다중 레이블 기반 모델보다도 우수한 성능을 보였으며, 특히 질환 패턴을 포착하는 데서 두각을 나타냈다.
• 커버리지 메커니즘은 디코딩 과정에서 반복적인 약재 토큰을 효과적으로 추적하고 억제하는 데 성공했다.
• 소프트 손실 함수는 약재 순서의 민감도를 완화함으로써 재현율을 향상시켰으며, 이는 TCM의 약물 조합의 약한 순서 구조와 더 잘 부합한다.
• 모델은 고립된 증상에 기반하는 것이 아니라 전체적인 질환 패턴('변증')을 이해하는 데 향상된 능력을 보였다.