[논문 리뷰] Variational Autoencoder for Anti-Cancer Drug Response Prediction

Hongyuan Dong, Jiaqing Xie외 2명|arXiv (Cornell University)|2020. 08. 22.

Gene expression and cancer classification참고 문헌 29인용 수 13

한 줄 요약

이 논문은 유전자 발현 및 분자 구조 데이터를 사용하여 항암제 반응을 예측하기 위해 변동성 오토인코더(VAE)와 다층 퍼셉트론(MLP)을 조합한 하이브리드 딥러닝 모델을 제안한다. GeneVAE와 JTVAE 모델은 각각 유전자 및 약물 데이터를 저차원 잠재공간으로 인코딩하여, 전암 세포주에서 평균 R²가 0.845에 이르는 ln(IC50) 값 예측을 정확하게 수행하며, 새로운 유효한 항암 화합물을 생성할 수 있다.

ABSTRACT

Cancer is a primary cause of human death, but discovering drugs and tailoring cancer therapies are expensive and time-consuming. We seek to facilitate the discovery of new drugs and treatment strategies for cancer using variational autoencoders (VAEs) and multi-layer perceptrons (MLPs) to predict anti-cancer drug responses. Our model takes as input gene expression data of cancer cell lines and anti-cancer drug molecular data and encodes these data with our {\sc {GeneVae}} model, which is an ordinary VAE model, and a rectified junction tree variational autoencoder ({\sc JTVae}) model, respectively. A multi-layer perceptron processes these encoded features to produce a final prediction. Our tests show our system attains a high average coefficient of determination ($R^{2} = 0.83$) in predicting drug responses for breast cancer cell lines and an average $R^{2} = 0.845$ for pan-cancer cell lines. Additionally, we show that our model can generates effective drug compounds not previously used for specific cancer cell lines.

연구 동기 및 목표

• 다양한 옹모믹스 데이터를 활용하여 약물 반응을 예측함으로써 항암제 발굴을 가속화하기 위해.
• 새로운 유효한 항암 화합물을 생성할 수 있는 생성 모델을 개발하기 위해.
• 유전자 발현 및 분자 구조 데이터를 함께 모델링하여 예측 정확도를 향상시키기 위해.
• 약물 개발 과정에서 비용이 많이 들고 시간이 오래 소요되는 실험적 스크리닝에 대한 의존도를 줄이기 위해.

제안 방법

• 표준 VAE(GeneVAE)를 사용하여 암 세포주 유전자 발현 프로파일을 잠재공간으로 인코딩하기 위해, 두 개의 완전 연결된 인코더 및 디코더 레이어를 적용한다.
• 직선 접합수 나무 VAE(JTVAE)를 활용하여 SMILES 문자열에서 유래한 분자 구조를 연속적인 잠재공간으로 인코딩하여 유효한 화합물 생성을 보장한다.
• 인코딩된 유전자 및 약물 잠재벡터를 다층 퍼셉트론(MLP)을 통해 조합하여 약물-세포주 쌍의 ln(IC50) 값을 예측한다.
• CCLE 유전자 발현, GDSC 약물 반응, ZINC 분자 구조 데이터를 기반으로 모델을 종합적으로 훈련하며, CGC 유전자 데이터셋을 사용하여 데이터 필터링을 수행한다.
• t-SNE 시각화를 통해 GeneVAE가 잠재공간에서 조직 유형의 군집 구조를 유지하고 있음을 확인한다.
• JTVAE 잠재공간에서 유클리드 거리를 사용하여 분자 유사도를 측정하고, 구조적 관련성을 검증한다.

실험 결과

연구 질문

• RQ1 VAE 기반 모델이 항암제 반응 예측을 위해 의미 있는 저차원 표현으로 유전자 발현 및 분자 구조 데이터를 효과적으로 인코딩할 수 있는가?
• RQ2 유전자 발현 및 분자 데이터를 통합하면 단일 모odal 모델 대비 예측 성능 향상이 이루어지는가?
• RQ3 JTVAE 구성 요소가 잠재적인 항암 활성을 지닌 새로운 화학적으로 유효한 화합물을 생성할 수 있는가?
• RQ4 모델이 다양한 암 유형, 특히 전암 및 유방암 세포주에 대해 얼마나 잘 일반화되는가?

주요 결과

• 모델은 전암 세포주에서 항암제 반응 예측에 평균 결정계수(R²) 0.845를 달성한다.
• 유방암 세포주에서는 R²가 0.830에 이르며, 주요 암 유형에서 강력한 예측 성능을 보여준다.
• t-SNE 시각화를 통해 GeneVAE의 잠재벡터가 생물학적 구조를 유지하고 있음을 확인하였으며, 조직 유형 간 명확한 분리가 유지된다.
• JTVAE에서 유사한 잠재벡터를 가진 약물들, 예를 들어 MG132와 프로테아좀은 기능적 그룹과 분자 서브스트럭처를 공유하며, 구조적 관련성을 확인한다.
• 높은 유사성에도 불구하고, 모델은 HCC1187 세포주에서 MG132와 프로테아좀의 약물 반응을 정확히 구분하며, 예측된 ln(IC50) 값이 실제 값과 유사하다.
• 모델는 훈련 데이터에 존재하지 않는 새로운 유효한 화합물을 생성함으로써 생성 능력을 입증하며, 이는 신규 약물 개발에 실용적인 활용 가능성을 시사한다.