[논문 리뷰] A Survey for Large Language Models in Biomedicine

Chong Wang, Mengyao Li외 15명|arXiv (Cornell University)|2024. 08. 29.

Machine Learning in Healthcare인용 수 4

한 줄 요약

이 종합 검토는 생물의학 분야의 LLM 연구 484篇을 종합하여 생물의학 분야에서의 응용, 적응 전략, 과제를 종합적으로 분석한다. 진단 및 신약 개발에서의 제로샷 성능를 강조하고 임상 정확도 향상을 위한 피지컬 튜닝을 다루며, 개인정보 보호, 해석 가능성, 실생활 적용을 고려할 때 피어 페어드 러닝과 설명 가능한 AI를 핵심 미래 방향으로 제시한다.

ABSTRACT

Recent breakthroughs in large language models (LLMs) offer unprecedented natural language understanding and generation capabilities. However, existing surveys on LLMs in biomedicine often focus on specific applications or model architectures, lacking a comprehensive analysis that integrates the latest advancements across various biomedical domains. This review, based on an analysis of 484 publications sourced from databases including PubMed, Web of Science, and arXiv, provides an in-depth examination of the current landscape, applications, challenges, and prospects of LLMs in biomedicine, distinguishing itself by focusing on the practical implications of these models in real-world biomedical contexts. Firstly, we explore the capabilities of LLMs in zero-shot learning across a broad spectrum of biomedical tasks, including diagnostic assistance, drug discovery, and personalized medicine, among others, with insights drawn from 137 key studies. Then, we discuss adaptation strategies of LLMs, including fine-tuning methods for both uni-modal and multi-modal LLMs to enhance their performance in specialized biomedical contexts where zero-shot fails to achieve, such as medical question answering and efficient processing of biomedical literature. Finally, we discuss the challenges that LLMs face in the biomedicine domain including data privacy concerns, limited model interpretability, issues with dataset quality, and ethics due to the sensitive nature of biomedical data, the need for highly reliable model outputs, and the ethical implications of deploying AI in healthcare. To address these challenges, we also identify future research directions of LLM in biomedicine including federated learning methods to preserve data privacy and integrating explainable AI methodologies to enhance the transparency of LLMs.

연구 동기 및 목표

• 좁은 초점 분야에 국한되지 않고 다양한 생물의학적 응용 분야에서 대규모 언어 모델(Large Language Models, LLMs)을 종합적으로 분석하기 위해 노력한다.
• 일반 모달 및 다중 모달 LLMs의 특화된 임상 및 연구 환경에서의 적응 전략인 피지컬 튜닝 등을 식별하고 평가한다.
• 데이터 개인정보 보호, 모델의 해석 가능성, 데이터셋 품질, 윤리적 배포와 같은 생물의학 분야의 LLMs에서의 핵심 과제를 해결한다.
• 피어 페어드 러닝, 설명 가능한 AI, 효율적인 피지컬 튜닝, 다중 모달 모델 융합과 같은 미래 연구 방향을 제안한다.
• 엄격한 검증과 다학제적 협업을 통해 LLMs를 임상 워크플로우에 책임감 있게 통합할 수 있도록 이끈다.

제안 방법

• PubMed, Web of Science, arXiv에서의 484篇의 논문을 체계적으로 분석하여 생물의학 분야의 LLMs 현황을 맵핑한다.
• 진단 보조, 신약 개발, 개인화된 의료, 생물의학 문헌 처리로 나누어 LLM의 응용을 분류한다.
• 의료 질문 응답 및 게놈 분석과 같은 작업에서 제로샷 및 피지컬 튜닝된 LLM의 성능을 평가한다.
• 파라미터 효율적인 피지컬 튜닝 및 텍스트, 이미지, 구조적 데이터를 통합하는 데 사용되는 다중 모달 융합 기법을 조사한다.
• 의료 분야에서의 데이터 민감성 문제를 해결하기 위해 피어 페어드 러닝과 차별적 개인정보 보호 같은 개인정보 보존 기법을 식별한다.
• 주의 시각화, 개념 기여도, LIME와 같은 해석 가능성 기법을 탐색하여 모델의 투명성을 향상시킨다.

Figure 1: Chronological overview of LLMs and their variants in biomedical applications from 2019 to 2024. The timeline illustrates the evolution of both unimodal (top) and multimodal (bottom) models, highlighting key developments across different model architectures including LLAMA, GPT, BERT, BaiCh

실험 결과

연구 질문

• RQ1 일반 목적의 LLMs는 진단 및 신약 개발과 같은 다양한 생물의학 작업에서 제로샷 설정에서 어떻게 성능을 발휘하는가?
• RQ2 임상 의사결정 지원와 같은 특화된 생물의학 분야에서 LLM 성능을 향상시키기 위해 가장 효과적인 피지컬 튜닝 전략은 무엇인가?
• RQ3 특히 데이터 개인정보 보호와 모델의 해석 가능성과 관련하여 실생활에 LLMs를 도입하는 데 장애가 되는 주요 과제는 무엇인가?
• RQ4 피어 페어드 러닝과 설명 가능한 AI 같은 새로운 기법은 임상 LLM 응용에서 윤리적 및 기술적 장벽을 어떻게 완화할 수 있는가?
• RQ5 신뢰성, 공정성, 글로벌 적응 가능성 확보를 위해 필수적인 미래 연구 방향은 무엇인가?

주요 결과

• MedPaLM은 의료 질문 응답에서 임상 전문가와 92.9%의 일치도를 보이며 복잡한 진단 추론에서 강력한 제로샷 성능을 입증했다.
• HuatuoGPT, ChatDoctor, BenTsao와 같은 도메인 특화 LLMs는 의료 대화 및 임상 커뮤니케이션 작업에서 높은 신뢰성을 보였다.
• 제로샷 성능이 부족한 영역, 예를 들어 생물의학 문헌 처리 및 의료 QA 같은 특화된 작업에서는 피지컬 튜닝이 LLM 성능을 크게 향상시켰다.
• 텍스트, 이미지, 구조적 데이터를 통합하는 다중 모달 LLMs는 복잡한 생물의학 분석 능력에서 향상된 성능을 보이며 모델 아키텍처에서의 증가 추세를 반영하고 있다.
• 피어 페어드 러닝과 차별적 개인정보 보호 기법은 의료 환경에서 데이터 개인정보 보호를 유지하면서도 모델의 유용성을 확보하는 데 유망한 접근 방식이다.
• 주의 시각화 및 LIME과 같은 설명 가능한 AI 기법은 모델의 투명성을 향상시켜 신뢰도 향상과 임상 적용을 지원한다.

Figure 2: Trends and distribution of LLM research papers in biomedical fields from 2018 to 2024. (a) Temporal analysis of LLM research papers, showing quarterly publication counts. A surge in publications is evident beginning in 2021, reflecting growing interest and investment in applying LLMs to bi