[논문 리뷰] Health AI Developer Foundations

Atilla P. Kiraly, Sebastien Baur외 24명|arXiv (Cornell University)|2024. 11. 22.

Artificial Intelligence in Healthcare and Education인용 수 4

한 줄 요약

HAI-DEF는 영상의학, 조직병리학, 피부과, 청각 모odalities를 포함한 다양한 분야에서 의료 AI 개발을 위한 사전 훈련된 도메인 특화 기초 모델, 도구, 코드 레시피의 세트를 제공한다. ELIXR-C 및 HeAR와 같은 모델을 통해 고품질의 태스크에 종속되지 않는 임bedding을 제공함으로써 데이터, 계산 자원, 레이블링 요구 사항을 줄이며, 낮은 데이터 환경에서 성능 향상과 함께 더 빠르고 효율적인 모델 개발을 가능하게 하고, 대상에 맞는 미세조정을 통해 공정성 향상도 달성한다.

ABSTRACT

Robust medical Machine Learning (ML) models have the potential to revolutionize healthcare by accelerating clinical research, improving workflows and outcomes, and producing novel insights or capabilities. Developing such ML models from scratch is cost prohibitive and requires substantial compute, data, and time (e.g., expert labeling). To address these challenges, we introduce Health AI Developer Foundations (HAI-DEF), a suite of pre-trained, domain-specific foundation models, tools, and recipes to accelerate building ML for health applications. The models cover various modalities and domains, including radiology (X-rays and computed tomography), histopathology, dermatological imaging, and audio. These models provide domain specific embeddings that facilitate AI development with less labeled data, shorter training times, and reduced computational costs compared to traditional approaches. In addition, we utilize a common interface and style across these models, and prioritize usability to enable developers to integrate HAI-DEF efficiently. We present model evaluations across various tasks and conclude with a discussion of their application and evaluation, covering the importance of ensuring efficacy, fairness, and equity. Finally, while HAI-DEF and specifically the foundation models lower the barrier to entry for ML in healthcare, we emphasize the importance of validation with problem- and population-specific data for each desired usage setting. This technical report will be updated over time as more modalities and features are added.

연구 동기 및 목표

• 초기부터 강력한 의료 기계학습 모델을 훈련시키는 데 드는 높은 비용, 데이터 부족, 계산 부담 문제를 해결하기 위해.
• 접근 가능하고 사전 훈련된 기초 모델 및 도구를 제공함으로써 의료 분야의 AI 개발 접근 장벽을 낮추기 위해.
• 도메인 특화 임bedding과 문제 및 인구 집단에 특화된 데이터에 대한 미세조정 지원을 통해 모델 성능과 공정성을 향상시키기 위해.
• 표준화되고 사용 가능한 인터페이스와 오픈 웨이트 모델을 제공함으로써 임상 현장에서의 AI 실용적 구현을 가속화하기 위해.
• 피드백 통합과 새로운 모달리티 및 용도로의 확장이 가능한 커뮤니티 기반 개선을 촉진하기 위해.

제안 방법

• HAI-DEF는 대규모이고 다양한 의료 데이터셋을 사용하여 대조 학습(SupCon), CLIP, BLIP-2 기법을 활용해 공동 이미지-텍스트 표현 학습을 위한 다수의 기초 모델을 훈련시킨다.
• CXR 기초 모델은 EfficientNet-L2 백본을 사용하며, X-레이 이미지와 영상의학 보고서의 쌍으로 훈련되어 임상적으로 관련성이 있는 임bedding을 학습한다.
• 청각 분야에서는 HeAR(Health Acoustics Representation)라는 기초 모델이 기침 및 숨소리 기록을 훈련 데이터로 사용하여 후속 작업에 유의미한 임bedding을 추출한다.
• 플랫폼은 연구용 엔드포인트와 오픈 웨이트 모델을 모두 제공하며, 오픈소스 컨테이너 및 전용 라이브러리(예: 조직병리학용)를 통한 배포 지원도 제공한다.
• 개발자들이 쉽게 통합하고 사용할 수 있도록 모든 모델 간에 동일한 인터페이스와 일관된 스타일을 사용한다.
• 특정 작업용 로컬 데이터로의 미세조정이 권장되며, 이는 희귀 질환 또는 소수 인구 집단에 대해 성능 향상에 특히 유리하다.

Figure 1 : Data efficiency comparison of four of our foundation models against established approaches. CXR (upper left) shows the average performance across six binary classification tasks with the original CXR Foundation model and the new ELIXR-B model; for Pathology (upper right), it focuses on a

실험 결과

연구 질문

• RQ1 사전 훈련된 기초 모델이 하류 의료 AI 모델 훈련에 필요한 레이블이 있는 데이터와 계산 자원을 크게 줄일 수 있는가?
• RQ2 HAI-DEF에서 유도된 도메인 특화 임bedding은 낮은 데이터 환경에서 다양한 임상 작업에 대해 어떻게 성능을 보이는가?
• RQ3 모델을 인구 집단에 특화되거나 기기 유형에 맞는 데이터로 미세조정했을 때, 공정성과 형평성 향상 정도는 어느 정도인가?
• RQ4 CLIP 및 BLIP-2 기반 모델의 성능 특성은 영상 인식 작업에서 제로샷 및 피셔샷 환경에서 어떻게 비교되는가?
• RQ5 커뮤니티 피드백과 반복적인 모델 업데이트는 의료 기초 모델의 장기적 유용성과 일반화 능력 향상에 어떤 역할을 하는가?

주요 결과

• ELIXR-C 및 HeAR와 같은 HAI-DEF 기초 모델은 하류 작업에서 강력한 제로샷 성능를 보이며, 광범위한 미세조정이 필요로 하지 않는다.
• 도메인 특화 임bedding의 사용은 레이블이 적은 데이터로도 견고한 모델 성능을 가능하게 하며, 특히 낮은 데이터 환경에서 매우 유용하다.
• 로컬 인구 집단 특화 데이터로의 미세조정은 희귀 질환 또는 소수 인구 집단에 대해 성능 향상과 편향 감소에 기여한다.
• HeAR는 스마트폰을 통해 수집된 새로운 청각 데이터에서 테스트했을 때 강력한 일반화 능력을 보이며, 실제 환경 적용 가능성에 뛰어나다.
• 표준화된 인터페이스와 오픈 웨이트 모델 덕분에 통합 및 반복 작업이 빨라져 연구 및 구현 주기를 가속화한다.
• 강력한 성능에도 불구하고 현재 HAI-DEF 모델은 이미지 세그멘테이션 또는 생성 작업을 지원하지 않으며, 현장에서의 배포를 위해서는 모델 다이제스티온이 필요할 수 있다.

Figure 2 : Performance of ELIXR-C, ELIXR-B, and the original CXR Foundation embeddings for data-efficient classification. The ROC AUC results of a linear probe are shown averaged across 2 datasets (CheXpert and Chest X-ray14) for seven findings: atelectasis, cardiomegaly, airspace opacity, fracture,