[논문 리뷰] Large AI Models in Health Informatics: Applications, Challenges, and the Future

Jianing Qiu, Lin Li외 12명|arXiv (Cornell University)|2023. 03. 21.

Artificial Intelligence in Healthcare and Education인용 수 8

한 줄 요약

본 논문은 대형 AI 모델(LAMs)과 건강 정보학 전반에 걸친 응용에 대한 포괄적 검토를 제공하며, 부문, 이점, 도전 과제 및 향후 방향을 제시한다.

ABSTRACT

Large AI models, or foundation models, are models recently emerging with massive scales both parameter-wise and data-wise, the magnitudes of which can reach beyond billions. Once pretrained, large AI models demonstrate impressive performance in various downstream tasks. A prime example is ChatGPT, whose capability has compelled people's imagination about the far-reaching influence that large AI models can have and their potential to transform different domains of our lives. In health informatics, the advent of large AI models has brought new paradigms for the design of methodologies. The scale of multi-modal data in the biomedical and health domain has been ever-expanding especially since the community embraced the era of deep learning, which provides the ground to develop, validate, and advance large AI models for breakthroughs in health-related areas. This article presents a comprehensive review of large AI models, from background to their applications. We identify seven key sectors in which large AI models are applicable and might have substantial influence, including 1) bioinformatics; 2) medical diagnosis; 3) medical imaging; 4) medical informatics; 5) medical education; 6) public health; and 7) medical robotics. We examine their challenges, followed by a critical discussion about potential future directions and pitfalls of large AI models in transforming the field of health informatics.

연구 동기 및 목표

• 대형 AI 모델이 진료 및 연구에 영향을 줄 수 있는 7개 주요 건강 정보학 부문을 식별한다.
• 다중 모달리티에 걸친 건강 관련 작업에서 LAMs의 현재 진행 상황과 벤치마크를 요약한다.
• 생의학 환경에서 LAMs를 배치할 때의 도전 과제, 위험 및 한계를 논의한다.
• 연구자와 실무자를 안내하기 위한 유망한 향후 방향과 잠재적 함정을 개요한다.

제안 방법

• LLMs, LVMs, LMMs를 포함한 LAMs에 관한 최근 문헌을 합성하고 이를 학습 데이터 모달리티와 아키텍처별로 분류한다.
• LAMs의 특징적 특성을 설명한다: 대규모, 대규모 프리트레이닝, 교차 도메인 일반화.
• 생의학 과제에서 LAMs를 이전의 SOTA 방법과 질적 논의 및 인용된 예를 통해 비교한다.
• 의료 맥락에서 RLHF 및 프롬프트 기법과 같은 도메인 특화 적용 및 적응 전략을 요약한다.
• 데이터 가용성, 주석 부담, 모달리티 통합 등과 같은 실용적 고려 사항을 강조한다.

실험 결과

연구 질문

• RQ1 LAMs가 진료 및 연구에 영향을 미칠 수 있는 일곱 개의 건강 정보학 부문은 무엇인가?
• RQ2 생물과학, 진단 영상, 정보학, 교육, 공중보건, 로봇공학 과제에서 LAMs가 이전 방법과 비교해 어떻게 수행하고 적응하는가?
• RQ3 건강 정보학에서 LAMs를 배치할 때의 주요 도전 과제, 한계 및 위험은 무엇인가?
• RQ4 향후 10년 간의 LAM 개발에 영향을 미칠 가능성이 높은 미래 방향, 방법론 및 안전장치는 무엇인가?

주요 결과

• LAMs는 교차 모달 학습 및 제로샷/펄샷 능력을 가능하게 하여 진단, 영상 및 정보학 과제를 바꿔놓을 수 있다.
• 생물정보학에서 대형 단백질/RNA 언어 모델 및 구조/예측 방법은 높은 성능과 속도 이점을 보여주지만, 평가에는 여전히 데이터 품질과 벤치마크에 의존한다.
• 의료 영상에서 LVMs 및 LVLMs는 제로샷 분할 및 분류 기능을 보여주며, 모달리티 특화 데이터에 대한 적응이 필요하다(예: MRI, OCT).
• 생물의료 LLM들(예: Med-PaLM, Med-PaLM 2, GatorTron)은 의학 QA, 추론 및 discharge 요약 생성을 향상시키며 임상 지원 및 문서화의 가능성을 시사한다.
• LMMs 및 다중 모달 정렬 전략은 이미지-텍스트 이해를 향상시키고 의료 맥락에서 검색 및 생성 작업을 가능하게 한다.
• 도전 과제로는 데이터 가용성, 주석 비용, 보정, 사실 기반 정당화, 안전성, 자동화된 출력에 대한 과도한 의존 위험 등이 있다.