[논문 리뷰] End-to-End Knowledge-Routed Relational Dialogue System for Automatic Diagnosis

Lin Xu, Qixian Zhou외 4명|arXiv (Cornell University)|2019. 01. 30.

Topic Modeling참고 문헌 25인용 수 6

한 줄 요약

이 논문은 의료 지식 그래프와 증상-질병 관계를 대화 관리에 통합하여 종단간 자동 진료를 위한 지식 라우팅 관계 대화 시스템(KR-DS)을 제안한다. 이는 새로운 지식 라우팅 딥 Q-네트워크(KR-DQN)를 통해 실현된다. 이 시스템은 공개 및 신규 수집된 의료 대화 데이터셋에서 최신 기술보다 진단 정확도가 8% 이상 뛰어나며, 관계적 정제와 지식 유도 정책 학습을 통해 증상의 관련성, 대화의 타당성, 진단 정밀도 측면에서 뛰어난 성능을 보인다.

ABSTRACT

Beyond current conversational chatbots or task-oriented dialogue systems that have attracted increasing attention, we move forward to develop a dialogue system for automatic medical diagnosis that converses with patients to collect additional symptoms beyond their self-reports and automatically makes a diagnosis. Besides the challenges for conversational dialogue systems (e.g. topic transition coherency and question understanding), automatic medical diagnosis further poses more critical requirements for the dialogue rationality in the context of medical knowledge and symptom-disease relations. Existing dialogue systems (Madotto, Wu, and Fung 2018; Wei et al. 2018; Li et al. 2017) mostly rely on data-driven learning and cannot be able to encode extra expert knowledge graph. In this work, we propose an End-to-End Knowledge-routed Relational Dialogue System (KR-DS) that seamlessly incorporates rich medical knowledge graph into the topic transition in dialogue management, and makes it cooperative with natural language understanding and natural language generation. A novel Knowledge-routed Deep Q-network (KR-DQN) is introduced to manage topic transitions, which integrates a relational refinement branch for encoding relations among different symptoms and symptom-disease pairs, and a knowledge-routed graph branch for topic decision-making. Extensive experiments on a public medical dialogue dataset show our KR-DS significantly beats state-of-the-art methods (by more than 8% in diagnosis accuracy). We further show the superiority of our KR-DS on a newly collected medical dialogue system dataset, which is more challenging retaining original self-reports and conversational data between patients and doctors.

연구 동기 및 목표

• 데이터 기반 챗봇을 넘어서 임상 지식을 통합하는 작업 지향 대화 시스템을 개발하여 자동 의료 진료를 실현한다.
• 기존 시스템이 의료 지식 통합이 부족하고 증상 질의가 타당하지 않거나 중복되는 문제를 해결한다.
• 강화 학습을 활용하여 대화 관리, 자연어 이해, 자연어 생성을 종합적으로 최적화하는 통합된 종단간 프레임워크를 설계한다.
• 실제 환자 자가 보고 및 의사-환자 상호작용을 유지하는 새로운 벤치마크 데이터셋을 구축하여 종단간 의료 대화 시스템의 학습 및 평가를 지원한다.
• 정책 학습에서 증상-질병 관계와 의료 지식 그래프 라우팅을 활용하여 진단 정확도와 대화 타당성을 향상시킨다.

제안 방법

• 표준 DQN을 확장한 지식 라우팅 딥 Q-네트워크(KR-DQN)를 제안하며, 두 가지 전문화된 브랜치(관계 정제 브랜치 및 지식 라우팅 그래프 브랜치)를 포함한다.
• 관계 정제 브랜치는 이전 진료 데이터에서 증상 간 관계 및 증상-질병 쌍의 관계를 학습하여 초도 정책 결정을 정제한다.
• 지식 라우팅 그래프 브랜치는 조건부 확률을 갖춘 의료 지식 그래프를 사용하여 주제 전환을 안내하여 증상 질의가 의학적으로 관련성 있고 타당함을 보장한다.
• KR-DQN을 종합적인 종단간 대화 시스템에 통합하여 대화 관리, 자연어 이해, 자연어 생성을 조율한다.
• 성공(22), 실패(-11), 단계 페널티(-1)를 기반으로 한 보상 함수를 사용한 강화 학습을 적용하며, 보상 크기의 아블레이션 연구를 통해 학습 안정성을 확보한다.
• 온라인 포럼에서 수집한 새로운 의료 대화 데이터셋을 구축하여 원본 환자 자가 보고 및 의사-환자 대화를 유지하여 실제적인 NLU 및 NLG 학습을 지원한다.

실험 결과

연구 질문

• RQ1 의료 지식 그래프를 대화 정책 학습에 통합함으로써 자동 진료를 위한 대화 시스템이 더 높은 정확도를 달성할 수 있는가?
• RQ2 증상과 질병 간의 관계 인코딩이 증상 질의의 타당성과 관련성에 어떻게 기여하는가?
• RQ3 순수 데이터 기반 접근 방식에 비해 지식 라우팅 정책 학습이 얼마나 중복되거나 관련 없는 증상 질의를 줄이는가?
• RQ4 원본 환자 발언과 의사-환자 상호작용을 유지하는 현실적인 실세계 대화 데이터셋에서 제안된 KR-DS는 어떤 성능을 보이는가?
• RQ5 다양한 보상 형태 설계 전략이 대화 시스템의 학습 안정성과 최종 진단 성능에 미치는 영향은 무엇인가?

주요 결과

• 공개 의료 대화 데이터셋에서 KR-DS는 진단 정확도 0.96을 달성하여 최신 기술보다 8% 이상 뛰어나다.
• 신규 수집된 MZ 데이터셋에서 KR-DS는 정확도 0.740, 매칭률 0.267, 평균 3.36턴을 기록하여 더 도전적인 현실 기반 벤치마크에서 강력한 성능을 보였다.
• 인간 평가 결과, KR-DS는 진단 타당성, 증상 타당성, 대화 유창성 측면에서 평균 점수(1~5점 척도)로 가장 높은 평가를 받았으며, Basic DQN 및 Sequicity보다 뛰어난 성능을 보였다.
• 아블레이션 연구 결과, 지식 라우팅 그래프 브랜치와 관계 정제 브랜치 모두 필수적이며, 조건부 확률 초기화가 무작위 초기화보다 성능 향상에 기여함을 확인했다.
• 보상 크기 변화 실험 결과, 더 작은 보상 값(예: -0.25)이 큰 값과 유사한 성능을 유지하면서도 안정적인 학습을 가능하게 하여 보상 스케일링에 대한 강건성을 입증했다.
• 정성적 분석 결과, KR-DS는 날카로운 증상(예: 비염성 알레르기의 경우 코막힘)을 효과적으로 식별하고 관련 없는 질의를 피하여 핸드-풋-온-마우스 질환과 같은 복잡한 사례에서도 정확한 진단을 이끌어냈다.