[논문 리뷰] Artificial Intelligence in Healthcare: Lost In Translation?

Vince I. Madai, David Higgins|arXiv (Cornell University)|2021. 07. 28.

Artificial Intelligence in Healthcare and Education참고 문헌 38인용 수 7

한 줄 요약

이 논문은 정밀의료, 재현가능한 과학, 데이터 품질, 인과관계, 제품 개발을 중심으로, 인공지능을 의료 분야에서 연구에서 임상 적용으로 옮기는 데 있어 핵심적인 장벽을 규명한다. AI 개념 증명 연구와 임상 적용 가능한 검증된 의료 기기 사이의 격차를 메우기 위해 체계적인 개선 조치—예를 들어 철저한 검증, 인과 모델링, 규제 기준 일치—를 제안한다.

ABSTRACT

Artificial intelligence (AI) in healthcare is a potentially revolutionary tool to achieve improved healthcare outcomes while reducing overall health costs. While many exploratory results hit the headlines in recent years there are only few certified and even fewer clinically validated products available in the clinical setting. This is a clear indication of failing translation due to shortcomings of the current approach to AI in healthcare. In this work, we highlight the major areas, where we observe current challenges for translation in AI in healthcare, namely precision medicine, reproducible science, data issues and algorithms, causality, and product development. For each field, we outline possible solutions for these challenges. Our work will lead to improved translation of AI in healthcare products into the clinical setting

연구 동기 및 목표

• 의료 분야에서 인공지능 연구와 임상 적용 사이에 지속적으로 존재하는 격차의 근본 원인을 진단하기 위해.
• 특히 정밀의료와 임상 검증 분야에서 간과되기 쉬운 도전 과제를 부각하기 위해.
• 재현성, 데이터 품질, 인과적 추론 향상을 위한 실천 가능한 해결책을 제안하기 위해.
• 안전성과 유효성을 보장하기 위해 인공지능 개발과 의료 기기 규제 기준 간의 강력한 일치를 촉구하기 위해.
• 체계적이고 증거 기반의 길을 통해 연구자와 개발자가 임상적으로 유의미한 인공지능 제품을 개발하도록 안내하기 위해.

제안 방법

• 이행 실패의 관점에서 현재의 인공지능 의료 연구를 분석하여 정밀의료, 재현가능한 과학, 데이터 및 알고리즘, 인과관계, 제품 개발의 다섯 가지 핵심 분야를 지정한다.
• 도-계산법(do-calculus), 잠재적 결과 모델링(potential outcomes)과 같은 인과 추론 프레임워크를 도입하여 상관관계를 넘어서 실질적인 의료 통찰을 도출한다.
• 연구 프로토콜 사전 등록 및 개방형 데이터 공유를 포함한 표준화되고 투명하며 재현 가능한 워크플로우의 도입을 권장한다.
• 기존 의료 기기 개발 방식을 모델로 삼아 충분한 검증력과 사전 정의된 종단점이 있는 확증적 임상 검증 연구의 필요성을 강조한다.
• '인공지능을 정밀의료 도구로 활용'하는 개념을 도입하고, 전체 집단 결과에 오류를 일으킬 수 있는 인구 하위군별 검증을 촉구한다.
• 안전성과 확장성을 확보하기 위해 FDA가 제안한 SaMD(Software as a Medical Device) 지침과 같은 규제 프레임워크와의 일치를 요구한다.

실험 결과

연구 질문

• RQ1 강력한 개념 증명 결과에도 불구하고 대부분의 의료 분야 인공지능 연구가 임상 적용으로 이어지지 않는 이유는 무엇인가?
• RQ2 인공지능 기반 정밀의료 프로젝트는 어떻게 설계되어야 하며, 환자 하위군에서 충분한 통계적 검증력과 임상 유효성을 확보할 수 있는가?
• RQ3 인과관계는 의료 분야에서 인공지능 예측의 신뢰성과 임상적 관련성을 향상시키는 데 어떤 역할을 하는가?
• RQ4 데이터 품질과 알고리즘의 강건성을 체계적으로 향상시키기 위해 어떤 조치가 필요한가? 이를 통해 재현 가능하고 일반화 가능한 인공지능 모델를 지원할 수 있는가?
• RQ5 의료 기기 기준과 규제 경로에 부합하기 위해 인공지능 개발을 어떻게 구조적이고 방법론적으로 개선해야 하는가?

주요 결과

• 현재의 인공지능 의료 파이프라인은 확증적 검증에 대한 후속 조치가 거의 없이 탐색적 개념 증명 연구에 치우쳐 있어 임상 이행에 실패할 가능성이 높다.
• 많은 의료 분야 인공지능 프로젝트는 암묵적으로 정밀의료 이니셔티브이지만, 임상 적용을 위해 요구되는 철저한 하위군 검증 없이 개발되고 있다.
• 도-계산법(do-calculus)과 잠재적 결과 모델링(potential outcomes modeling)을 포함한 인과 인공지능 방법은 상관관계를 넘어서 임상 의사결정에 실질적이고 해석 가능한 예측을 가능하게 하기 위해 필수적이다.
• 결측치, 편향, 분포 이탈 등 데이터 품질 문제로 인해 모델의 일반화 능력과 재현 가능성에 심각한 영향을 미친다.
• 의료 기기 표준 준수 부족—예를 들어 사전 임상 검증, 규제 준수, 장기 모니터링—으로 인해 인공지능 의료 분야의 제품 개발이 저해되고 있다.
• 표준화되고 투명하며 사전 등록된 연구 프로토콜의 부재로 인해 재현성이 낮아지고 인공지능 연구 결과에 대한 신뢰도가 훼손된다.