[논문 리뷰] Assigning Medical Codes at the Encounter Level by Paying Attention to Documents

Han-Chin Shing, Guoli Wang외 1명|arXiv (Cornell University)|2019. 11. 15.

Topic Modeling참고 문헌 9인용 수 4

한 줄 요약

이 논문은 다중 문서 임상 만남 내에서 관련 문서를 식별함으로써 만남 수준에서 의료 코드화 정확도를 향상시키는 계층적 어텐션 모델인 Encounter-Level Document Attention Networks(ELDAN)를 제안한다. 문서 수준의 애너테이션을 필요로 하지 않으며, 최신 기술 수준의 성능을 달성하여 베이스라인을 크게 능가하며, 소스 문서를 강조함으로써 해석 가능한 코드 검토를 가능하게 한다.

ABSTRACT

The vast majority of research in computer assisted medical coding focuses on coding at the document level, but a substantial proportion of medical coding in the real world involves coding at the level of clinical encounters, each of which is typically represented by a potentially large set of documents. We introduce encounter-level document attention networks, which use hierarchical attention to explicitly take the hierarchical structure of encounter documentation into account. Experimental evaluation demonstrates improvements in coding accuracy as well as facilitation of human reviewers in their ability to identify which documents within an encounter play a role in determining the encounter level codes.

연구 동기 및 목표

• 의료 코드화의 기술적 격차를 해소하기 위해 문서 수준의 코드화가 아닌 만남 수준의 코드화에 초점을 맞춘다.
• 다양한 문서로 구성된 임상 만남의 계층적 구조를 모델링하여 코드화 정확도를 향상시킨다.
• 각 만남 수준 코드를 뒷받침하는 문서를 식별할 수 있도록 인간 코드러가 확인할 수 있도록 해석 가능성을 향상시킨다.
• 훈련 중에 문서 수준의 코드 애너테이션을 필요로 하지 않는 방법을 개발한다. 만남 수준의 코드만을 활용한다.
• 모델이 인간의 소스 문서 평가와 일치하는 어텐션 가중치를 할당할 수 있는지 평가한다.

제안 방법

• ELDAN은 문장 내 단어, 문서 내 문장, 임상 만남 내 문서의 세 수준에서 텍스트를 처리하는 계층적 어텐션 메커니즘을 사용한다.
• 환자의 개인정보를 보존하기 위해 UMLS CUI 및 내부 개념 식별자로 원시 임상 텍스트를 특징 벡터로 변환한다.
• 다양한 수준의 어텐션을 적용하여 만남 수준 코드 예측에 가장 관련성이 높은 문서를 학습한다.
• 모든 코드에 공통된 인코더를 사용하는 one-vs-all 분류 설정을 통해 효율적인 훈련과 희귀 코드에 대한 전이 학습을 가능하게 한다.
• 문서 수준의 어텐션 점수를 사용하여 소스 문서를 예측하고, 인간 애너테이션과 비교하여 평가한다.
• 모델은 문서 수준의 코드 애너테이션 없이 만남 수준의 코드에서 끝에서 끝까지 훈련된다.

실험 결과

연구 질문

• RQ1 임상 만남의 계층적 구조를 활용하는 딥러닝 모델이 만남 수준에서의 코드화 정확도를 향상시킬 수 있는가?
• RQ2 모델의 문서 수준 어텐션 메커니즘이 만남 코드의 소스 문서에 대한 인간의 판단과 일치하는가?
• RQ3 문서 수준의 애너테이션 없이도 높은 성능을 달성할 수 있는가?
• RQ4 이 설정에서 희귀 의료 코드에 대해 난이도 없는 전이 학습 접근법은 얼마나 효과적인가?
• RQ5 어텐션 메커니즘이 인간 검토나 주도 학습을 안내하는 약한 지도 신호의 형태로 기능할 수 있는가?

주요 결과

• ELDAN은 강력한 베이스라인보다 만남 수준 코드화 정확도에서 유의미한 향상을 보이며, 유의미한 개선(α < .05)을 보였다.
• 20개의 빈도가 높은 CPT 코드 중에서, ELDAN은 19개의 코드 중 7개에서 F1 스코어가 100%를 기록하여 고빈도 코드에서 뛰어난 성능을 보였다.
• 평균적으로 ELDAN의 문서 어텐션 F1 스코어는 우연의 기준보다 15.5점 높았으며, 코드 12002의 경우 36.29점 향상되었다.
• 단지 6건의 만남과 18건의 문서만으로도 코드 43235에 대해 기준보다 42.38점 높은 F1 스코어를 기록하였다.
• 어텐션 메커니즘이 인간 코드러의 소스 문서 판단과 강력한 일치를 보였으며, 코드 43239의 경우 F1 스코어 차이가 29.67점이었다.
• 모델는 효과적인 전이 학습을 보였으며, 미세조정 없이도 난이도 없는 접근법이 희귀 코드에서 성능 향상에 유의미하게 기여했다.