[논문 리뷰] Mining Healthcare Procurement Data Using Text Mining and Natural Language Processing -- Reflection From An Industrial Project

Ziqi Zhang, Tomas Jasaitis외 3명|arXiv (Cornell University)|2023. 01. 09.

Outsourcing and Supply Chain Management인용 수 6

한 줄 요약

이 논문은 수백만 개의 이질적이고 다국어로 작성된 의료구매 계약 문서에서 구조화된 구매 계약 데이터를 추출하기 위해 텍스트 마이닝 및 NLP를 실생활 산업 응용으로 구현한 사례를 제시한다. 도메인 지식과 확장 가능한 다국어 방법을 활용하여 저자들은 동적 공급업체 리스크 평가를 가능하게 하는 첫 번째 대규모 구조화된 구매 계약 데이터베이스를 구축하였으며, 복잡한 실생활 환경에서의 실용적 NLP 구현에 있어 핵심 과제와 교훈을 문서화하였다.

ABSTRACT

While text mining and NLP research has been established for decades, there remain gaps in the literature that reports the use of these techniques in building real-world applications. For example, they typically look at single and sometimes simplified tasks, and do not discuss in-depth data heterogeneity and inconsistency that is common in real-world problems or their implication on the development of their methods. Also, few prior work has focused on the healthcare domain. In this work, we describe an industry project that developed text mining and NLP solutions to mine millions of heterogeneous, multilingual procurement documents in the healthcare sector. We extract structured procurement contract data that is used to power a platform for dynamically assessing supplier risks. Our work makes unique contributions in a number of ways. First, we deal with highly heterogeneous, multilingual data and we document our approach to tackle these challenges. This is mainly based on a method that effectively uses domain knowledge and generalises to multiple text mining and NLP tasks and languages. Second, applying this method to mine millions of procurement documents, we develop the first structured procurement contract database that will help facilitate the tendering process. Second, Finally, we discuss lessons learned for practical text mining/NLP development, and make recommendations for future research and practice.

연구 동기 및 목표

• 이질적이고 다국어로 작성된 데이터에 대한 확장 가능한 텍스트 마이닝 솔루션을 개발하여 의료구매 분야에서 실생활 NLP 응용의 부족을 보완하기 위해.
• 비구조화된 구매 문서 수백만 건에서 구조화된 계약 데이터를 추출하여 동적 공급업체 리스크 평가를 지원하기 위해.
• 산업적 NLP 프로젝트에서의 데이터 이질성, 일관성 부족, 다국어 문제와 관련된 실용적 과제와 해결책을 문서화하고 공유하기 위해.
• 복잡한 도메인 특화 산업 환경에서 NLP를 구현하기 위한 향후 연구 기반을 마련하기 위해 구체적인 권고 사항을 제공하기 위해.

제안 방법

• 다양한 구매 문서 간의 데이터 이질성과 일관성 문제를 다룰 수 있도록 도메인 지식을 통합한 NLP 파이프라인을 설계하였다.
• 이 방법은 다국어 간 명명된 실체 인식, 관계 추출, 문서 분류 등의 다양한 텍스트 마이닝 및 NLP 작업을 지원한다.
• 정확도와 일반화 능력을 향상시키기 위해 규칙 기반 히우리스틱과 사전 훈련된 다국어 언어 모델(mBERT 등)을 조합한 하이브리드 접근법을 사용하였다.
• 표준화된 입력을 확보하기 위해 데이터 전처리 단계에서 정규화, 언어 식별, 다국어 토크나이제이션을 수행하였다.
• 도메인 전문가의 피드백과 애너테이션된 구매 문서 샘플을 이용한 검증을 통해 시스템을 반복적으로 개선하였다.
• 수백만 건의 구매 문서를 효율적으로 처리하고 구조화하기 위한 확장 가능한 데이터 파이프라인을 구현하였다.

실험 결과

연구 질문

• RQ1 실생활 산업 환경에서 높은 이질성과 다국어성을 지닌 의료구매 문서에 효과적으로 NLP 기법을 적용할 수 있는 방법은 무엇인가?
• RQ2 다양한 구매 문서 형식 간의 텍스트 마이닝 모델의 강건성과 일반화 능력을 향상시키는 데 도메인 지식이 수행하는 역할은 무엇인가?
• RQ3 데이터 일관성과 이질성을 체계적으로 해결하여 대규모이고 신뢰할 수 있는 정보 추출을 가능하게 하기 위한 방법은 무엇인가?
• RQ4 실생활 의료구매 응용에서 NLP 시스템을 구현할 때 발생하는 주요 실용적 과제는 무엇인가?
• RQ5 복잡한 도메인 특화 환경에서 향후 연구 및 산업적 NLP 구현을 안내하기 위해 얻을 수 있는 교훈은 무엇인가?

주요 결과

• 저자들은 다국어로 작성된 이질적 문서 수백만 건에서 구조화된 구매 계약 데이터를 성공적으로 추출하여 의료 분야에서 첫 번째 대규모 구조화된 구매 계약 데이터베이스를 구축하였다.
• 도메인 지식의 통합은 다양한 문서 유형과 언어 간 모델 성능 향상과 일반화 능력 향상에 크게 기여하였다.
• 이 방법은 구매 문서 간 형식, 용어, 구조의 변동성과 일관성 문제를 효과적으로 처리하는 데 있어 강건성을 입증하였다.
• 프로젝트를 통해 데이터 품질과 전처리 과정이 실생활 NLP 응용에서 핵심적인 제약 요소임을 확인하였으며, 이는 모델 개발보다 더 도전적인 과제임을 드러냈다.
• 실제 구현을 위해서는 도메인 전문가와의 반복적 보완이 필요했으며, 이는 산업용 NLP 시스템에서 인간이 참여하는 검증의 중요성을 강조한다.
• 본 연구는 향후 연구를 위한 실용적 권고 사항을 제공하였으며, 단순화된 학술 기준을 넘어서 실제 과제와 데이터 복잡성을 문서화할 필요성을 강조한다.