[논문 리뷰] Applying Artificial Intelligence to Clinical Decision Support in Mental Health: What Have We Learned?

Grace Golden, Christina Popescu외 6명|arXiv (Cornell University)|2023. 03. 06.

Artificial Intelligence in Healthcare and Education인용 수 7

한 줄 요약

이 논문은 주우울장애 치료를 위한 인공지능 기반 임상의사결정지원시스템(AI-CDSS)인 Aifred Health의 사례 연구를 제시하며, 기계학습 모델이 치료 선택과 관리에 어떻게 기여할 수 있는지 보여준다. 연구는 개발 및 구현 과정에서의 핵심 과제를 규명하고, 임상적으로 유용하며 신뢰할 수 있는 AI-CDSS를 구축하고 실생활 정신건강 워크플로우에 원활하게 통합하기 위한 근거 기반 권고안을 제시한다.

ABSTRACT

Clinical decision support systems (CDSS) augmented with artificial intelligence (AI) models are emerging as potentially valuable tools in healthcare. Despite their promise, the development and implementation of these systems typically encounter several barriers, hindering the potential for widespread adoption. Here we present a case study of a recently developed AI-CDSS, Aifred Health, aimed at supporting the selection and management of treatment in major depressive disorder. We consider both the principles espoused during development and testing of this AI-CDSS, as well as the practical solutions developed to facilitate implementation. We also propose recommendations to consider throughout the building, validation, training, and implementation process of an AI-CDSS. These recommendations include: identifying the key problem, selecting the type of machine learning approach based on this problem, determining the type of data required, determining the format required for a CDSS to provide clinical utility, gathering physician and patient feedback, and validating the tool across multiple settings. Finally, we explore the potential benefits of widespread adoption of these systems, while balancing these against implementation challenges such as ensuring systems do not disrupt the clinical workflow, and designing systems in a manner that engenders trust on the part of end users.

연구 동기 및 목표

• 실제 임상 환경에서 주우울장애를 위한 AI-CDSS의 개발 및 구현을 평가하기 위해.
• 정신건강 분야에서 AI-CDSS를 구현할 때의 장애 요인, 예를 들어 워크플로우 방해 및 사용자 신뢰 문제를 규명하기 위해.
• 정신건강 케어 분야에서 AI-CDSS를 설계, 검증, 구현하기 위한 실천 가능한 권고안을 제공하기 위해.
• 다학제적 피드백과 다중 환경 검증을 통해 AI-CDSS의 임상적 유용성을 평가하기 위해.
• 임상 실무에서의 투명성, 사용성, 윤리적 통합의 필요성과 AI 보조의 이점을 균형 있게 조율하기 위해.

제안 방법

• 연구는 주우울장애 치료 결정보조를 위한 맞춤형 AI-CDSS인 Aifred Health의 설계 및 구현을 분석한다.
• 시스템은 임상 데이터와 환자 보고 데이터를 기반으로 훈련된 기계학습 모델을 사용하여 치료 옵션을 제안하고 결과를 모니터링한다.
• 개발 과정은 사용자 중심 설계 원칙을 따르며, 반복 테스트 동안 전문의 및 환자로부터의 피드백을 통합하였다.
• 일반화 가능성과 강건성을 확보하기 위해 다양한 임상 환경에서 도구를 검증하였다.
• 구현 전략은 설명 가능한 AI 구성 요소를 통해 워크플로우 방해 최소화와 전문의 신뢰 향상을 중시하였다.
• 프레임워크는 최적의 임상적 유용성을 위해 데이터 유형 선택, 모델 해석 가능성, CDSS 인터페이스 설계를 강조한다.

실험 결과

연구 질문

• RQ1 정신건강 분야에서 AI-CDSS를 개발하고 구현할 때의 핵심 과제는 무엇인가요?
• RQ2 AI-CDSS는 어떻게 설계되어야 워크플로우 통합과 전문의 신뢰를 유지할 수 있나요?
• RQ3 전문의 및 환자 피드백은 효과적인 AI-CDSS 설계에 어떤 역할을 하나요?
• RQ4 AI-CDSS는 어떻게 다양한 임상 환경에서 검증되어 신뢰성과 일반화 가능성을 확보할 수 있나요?
• RQ5 정신건강 분야에서 임상적으로 유용하고 신뢰할 수 있으며 확장 가능한 AI-CDSS를 만들기 위해 필수적인 설계 원칙은 무엇인가요?

주요 결과

• 정신건강 분야의 AI-CDSS 개발은 제공자 부담을 피하기 위해 임상 워크플로우 통합에 강력한 초점을 두어야 한다.
• 개발 과정에서 전문의 및 환자로부터 피드백을 확보하는 것은 도구의 사용성과 수용도를 크게 향상시킨다.
• 다양한 임상 환경에서의 검증은 AI-CDSS 성능의 신뢰성과 일반화 가능성을 강화한다.
• AI 도구에 대한 신뢰는 예측 정확도 외에도 투명성, 설명 가능성, 일관된 성능에 기반한다.
• 가장 효과적인 AI-CDSS는 실제 임상적 필요와 부합하는 실질적인 사용자 피드백을 반복적으로 통합하여 설계된 것이다.
• 기술적 잠재력에도 불구하고, 시스템의 복잡성과 상호운용성 부족 등의 구현 장애 요인으로 인해 광범위한 도입이 저해된다.