[논문 리뷰] Adjusting for Confounding in Unsupervised Latent Representations of Images

Craig A. Glastonbury, Michael Ferlaino외 2명|arXiv (Cornell University)|2018. 11. 15.

Cell Image Analysis Techniques참고 문헌 10인용 수 4

한 줄 요약

이 논문은 생물의학 영상에서 배치 효과와 염색 변동성과 같은 혼란 요인을 분리함으로써 비지도, 혼란 요인에 강인한 표현을 학습하기 위한 적대적 훈련 방법을 제안한다. 깊이 있는 합성곱 오토에인코더에 적대적 판별기(디스커미네이터)를 결합한 모델은 생물학적 정보를 유지하면서도 혼란 요인에 대해 불변인 잠재 표현을 달성한다. λ=50일 때 55.4%의 MOA 예측 정확도를 기록하여 무작위 성능을 크게 초월한다.

ABSTRACT

Biological imaging data are often partially confounded or contain unwanted variability. Examples of such phenomena include variable lighting across microscopy image captures, stain intensity variation in histological slides, and batch effects for high throughput drug screening assays. Therefore, to develop "fair" models which generalise well to unseen examples, it is crucial to learn data representations that are insensitive to nuisance factors of variation. In this paper, we present a strategy based on adversarial training, capable of learning unsupervised representations invariant to confounders. As an empirical validation of our method, we use deep convolutional autoencoders to learn unbiased cellular representations from microscopy imaging.

연구 동기 및 목표

• 생물의학 영상 데이터의 혼란 요인(예: 배치 효과, 염색 변동성 등)에 강인한 비지도 표현 학습 방법을 개발하는 것.
• 고 throughput 스크리닝 및 조직학에서 주로 발생하는 영상 데이터의 혼란 요인으로 인한 기계 학습 모델의 낮은 일반화 성능 문제를 해결하는 것.
• 비용이 많이 드는 인간 레이블링이 필요 없이 공정하고 편향 없는 표현 학습을 가능하게 하여 새로운 세포 표현형의 발견을 지원하는 것.
• 감독 학습에서 비지도 표현 학습으로의 적대적 편향 제거 기법을 일반화하는 것.

제안 방법

• 깊이 있는 합성곱 오토에인코더(CAE)는 학습된 잠재 코드에서 입력 영상을 재구성하도록 훈련되어 의미 있는 생물학적 특징을 포착한다.
• 적대적 판별기는 잠재 코드에서 혼란 요인(예: 배치 또는 염색 강도)을 예측하도록 훈련되어 CAE가 혼란 요인에 간접적인 표현을 생성하도록 유도한다.
• 공동 훈련 목표는 CAE 재구성 손실와 적대적 손실을 조합한 것으로, 두 손실를 균형 잡는 하이퍼파rameter λ를 포함한다. 이는 CAE 손실를 최소화하면서도 적대적 손실를 최대화하는 방식이다.
• 최적화는 min-max 문제로 공식화되며, CAE의 파라미터 θ를 최소화하고 판별기의 가중치 w를 최대화함으로써 잠재 코드가 혼란 요인에 대해 정보를 갖지 않도록 보장한다.
• 연속형 혼란 요인에 대해선 분류기 대신 적대적 회귀기를 사용하여 방법을 확장한다.
• 이 방법은 BBBC021v1 현미경 데이터셋에서 검증되었으며, 배치 효과의 영향을 효과적으로 줄이면서도 MOA 예측을 위한 생물학적 신호를 유지하는 데 성공했다.

실험 결과

연구 질문

• RQ1 레이블링이 없는 조건에서 비지도 표현 학습에 적대적 훈련을 어떻게 적용하여 혼란 요인에 강인한 표현을 학습할 수 있는가?
• RQ2 배치 효과나 염색 변동성과 같은 혼란 요인은 얼마나 효과적으로 학습된 영상 표현에서 제거될 수 있으며, 동시에 생물학적으로 관련된 정보는 얼마나 유지되는가?
• RQ3 적대적 가중치 하이퍼파rameter λ의 다양한 값에서 혼란 요인 간 불변성과 생물학적 정보 유지 간의 상호 갈등은 어떻게 나타나는가?
• RQ4 이 방법은 조직학 데이터에서의 이 schemia 시간과 같은 연속형 혼란 요인으로 일반화될 수 있는가?
• RQ5 결과로 도출된 표현은 약물 작용 기전 예측과 같은 생물학적으로 의미 있는 작업에서 하류 분류 성능을 향상시키는가?

주요 결과

• λ=50일 때, 분자 작용 기전(MOA) 예측 정확도가 55.435%에 도달하여 무작위 성능보다 3.6배 높게 나타나 생물학적으로 관련된 정보가 유지됨을 입증한다.
• λ=50일 때, 배치 예측 정확도는 35.870%로 떨어지며, 이는 λ=0일 때의 64.130%보다 유의미하게 낮아 배치 효과 혼란 요인에 대해 강한 불변성을 보임을 시사한다.
• 잠재 공간에서 혼란 신호가 효과적으로 제거되었음을 입증하며, λ 증가에 따라 배치 예측 정확도가 급격히 감소하고, 동시에 높은 MOA 예측 성능를 유지함을 확인할 수 있다.
• 연속형 혼란 요인으로의 일반화도 성공적으로 수행되었으며, GTEx 조직학 데이터에서 이 schemia 시간과 비지도 표현 간 상관계수 r=0.18(p=4.9×10−150)를 관찰하여 연속형 혼란 요인이 존재함을 확인했다.
• 고 λ 값에서도 MOA 예측 성능이 무작위 성능보다 3배 이상 높게 유지되며, 학습된 표현이 의미 있는 생물학적 구조를 유지하고 있음을 확인한다.
• 모델은 사전 레이블링된 데이터에 의존하지 않는 비지도 환경에서 작동하므로, 새로운 표현형의 발견이 가능하다.