[논문 리뷰] Improving generalization of machine learning-identified biomarkers with causal modeling: an investigation into immune receptor diagnostics

Milena Pavlović, Ghadi S. Al Hajj외 6명|arXiv (Cornell University)|2022. 04. 20.

Computational Drug Discovery Methods인용 수 7

한 줄 요약

이 논문은 다양한 인구 집단 간 일반화 능력을 향상시키기 위해 인공지능 면역 수용체 어셈블리(airr) 바이오마커 탐색에 인과 모델링을 기계 학습 파이프라인에 통합하는 것을 제안한다. 혼란 변수가 되는 생물학적 및 실험적 변수들 사이에서 안정적이고 불변하는 관계를 식별함으로써, 이 방법은 기계 학습으로 식별된 바이오마커의 강건성과 이식 가능성을 향상시킨다. 이는 airr 데이터에 대한 시뮬레이션을 통해 입증되었다.

ABSTRACT

Machine learning is increasingly used to discover diagnostic and prognostic biomarkers from high-dimensional molecular data. However, a variety of factors related to experimental design may affect the ability to learn generalizable and clinically applicable diagnostics. Here, we argue that a causal perspective improves the identification of these challenges and formalizes their relation to the robustness and generalization of machine learning-based diagnostics. To make for a concrete discussion, we focus on a specific, recently established high-dimensional biomarker - adaptive immune receptor repertoires (AIRRs). Through simulations, we illustrate how major biological and experimental factors of the AIRR domain may influence the learned biomarkers. In conclusion, we argue that causal modeling improves machine learning-based biomarker robustness by identifying stable relations between variables and by guiding the adjustment of the relations and variables that vary between populations.

연구 동기 및 목표

• 고차원 면역 수용체 어셈블리(airr)에 기반한 기계 학습 기반 바이오마커 탐색에서 낮은 일반화 능력 문제를 해결한다.
• 시퀀싱 깊이, 인구 집단 이질성, 면역 수용체 어셈블리 다양성 등의 생물학적 및 실험적 요인이 모델의 강건성에 미치는 영향을 규명한다.
• 인과 추론의 역할을 정식화하여 허위 상관관계와 안정적이고 이식 가능한 바이오마커 신호를 구분한다.
• 기계 학습 모델의 다인구 일반화 성능을 향상시키기 위해 변수 선택 및 조정을 안내하는 프레임워크를 개발한다.
• 인과 모델링이 airr 기반 진단의 임상 적용 가능성을 향상시키는 데서의 유용성을 입증한다.

제안 방법

• airr 특징, 질병 상태 및 혼란 변수 간의 관계를 모델링하기 위해 인과 추론 프레임워크를 적용한다.
• do-계산법과 구조적 인과 모델(ScM)을 사용하여 다양한 인구 집단 간에 일관된 인과 효과를 식별한다.
• 다양한 실험 조건(예: 시퀀싱 깊이, 인구 구조의 변화 등)을 시뮬레이션하여 혼란이 존재하는 조건에서의 모델 행동을 평가한다.
• 기계 학습 모델의 분포 이탈에 대한 강건성을 평가하기 위해 반사적 분석을 구현한다.
• 기계 학습 모델에 인과 발견을 통합하여 질병과 안정적이고 인과적인 연관성을 가지는 특징을 우선순위에 올린다.
• 식별된 인과 구조를 바탕으로 재가중 또는 재학습을 통해 혼란 변수를 조정함으로써 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 airr 데이터의 실험적 및 생물학적 요인(예: 시퀀싱 깊이, 인구 구조)이 기계 학습으로 식별된 바이오마커의 일반화 능력을 어떻게 약화시키는가?
• RQ2 면역 수용체 어셈블리의 어떤 특징이 질병과 인과적으로 연관되어 있으며, 이러한 특징은 어떻게 허위 상관관계와 구분되는가?
• RQ3 인과 모델링이 다양한 인구 집단 간 기계 학습 바이오마커의 이식 가능성을 얼마나 향상시킬 수 있는가?
• RQ4 인과 구조 학습은 어떤 식으로 강건하고 불변하는 특징을 선별하는 데 도움이 되는가?
• RQ5 혼란 변수는 기계 학습 기반 면역 바이오마커 탐색의 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 인과 모델링은 시뮬레이션된 인구 집단 간에 면역 수용체 특징과 질병 상태 사이의 안정적이고 불변하는 관계를 성공적으로 식별하였다.
• 기계 학습 모델이 인과 조정을 통해 훈련된 경우, 표준 기계 학습 접근 방식에 비해 분포 외부의 인구 집단으로의 일반화 능력이 뚜렷이 향상되었다.
• 시퀀싱 깊이 등의 기술적 요인에 기인한 허위 상관관계는 인과 구조가 통합될 경우 효과적으로 완화되었다.
• 이 방법은 인구 집단에 특화된 특징에 대한 의존도를 줄여 다양한 코hort 간의 이식 가능성을 향상시켰다.
• 반사적 분석을 통해 인과 조정이 없는 모델은 특히 이질적인 인구 집단에서 관측되지 않은 혼란 변수에 민감한 것으로 드러났다.
• 기계 학습과 인과 발견을 통합함으로써, airr 데이터의 상당한 분포 이탈 조건에서도 모델의 강건성이 향상되었다.