[논문 리뷰] Learning Large Scale Ordinary Differential Equation Systems

Frederik Vissing Mikkelsen, Niels Richard Hansen|arXiv (Cornell University)|2017. 10. 25.

Metabolomics and Mass Spectrometry Studies참고 문헌 17인용 수 5

한 줄 요약

이 논문은 다중 실험 조건에서의 시간 경과 데이터로부터 대규모 다항 및 유리 다항 미분방정식(OED) 시스템을 학습하기 위한 적응형 적분 매칭(Adaptive Integral Matching, AIM) 알고리즘을 제안한다. 정규화된 적분 매칭과 수치적 ODE 해법을 결합함으로써 AIM은 체계 생물학에서 정확하고 희소한 네트워크 복원을 가능하게 하며, DREAM8 인산화 단백질 네트워크 도전 과제에서 AUROC 0.74를 달성하여 최첨단 성능과 대규모 시스템에 대한 계산 가능성 입증.

ABSTRACT

Learning large scale nonlinear ordinary differential equation (ODE) systems from data is known to be computationally and statistically challenging. We present a framework together with the adaptive integral matching (AIM) algorithm for learning polynomial or rational ODE systems with a sparse network structure. The framework allows for time course data sampled from multiple environments representing e.g. different interventions or perturbations of the system. The algorithm AIM combines an initial penalised integral matching step with an adapted least squares step based on solving the ODE numerically. The R package episode implements AIM together with several other algorithms and is available from CRAN. It is shown that AIM achieves state-of-the-art network recovery for the in silico phosphoprotein abundance data from the eighth DREAM challenge with an AUROC of 0.74, and it is demonstrated via a range of numerical examples that AIM has good statistical properties while being computationally feasible even for large systems.

연구 동기 및 목표

• 네트워크 구조에 대한 사전 지식이 거의 없거나 전혀 없는 상황에서 시간 경과 데이터로부터 대규모 비선형 ODE 시스템을 학습하는 데 도전 과제를 해결하기 위해.
• 다양한 환경에서의 실험 데이터로부터 동적 시스템의 희소한 네트워크 구조를 추론하기 위한 계산적으로 효율적이고 통계적으로 안정된 방법을 개발하기 위해.
• 완전히 데이터 기반 추론과 ODE 시스템 학습 과정에 생물학적 사전 지식를 통합할 수 있는 유연한 프레임워크를 제공하기 위해.
• 실제 및 시뮬레이션된 대규모 시스템, 특히 DREAM8 인산화 단백질 네트워크와 효모(Saccharomyces cerevisiae)의 당해리 작용에서 제안된 방법의 성능을 평가하기 위해.
• 기존 방법에 비해 네트워크 복원 정확도와 확장성 면에서 AIM 알고리즘이 가지는 통계적 및 계산적 이점을 입증하기 위해.

제안 방법

• 다양한 환경(간섭 및 교란 포함)에서의 시간 경과 데이터를 이용한 다항 및 유리 다항 ODE 시스템 학습을 위한 프레임워크를 제안한다.
• 처음으로 정규화된 적분 매칭 단계를 적용하여 초기 매개변수 값을 추정하는 적응형 적분 매칭(Adaptive Integral Matching, AIM) 알고리즘을 도입한다.
• 수치적으로 ODE를 해결하여 매개변수 추정치를 보정하는 수정된 최소제곱 단계를 이어가며 정확도를 향상시킨다.
• 정기적인 간격으로 활성 매개변수 집합을 식별함으로써 계산 비용을 절감하기 위해 프록시미티 그래디언트 알고리즘에 스크리닝 전략을 적용한다.
• 비볼록 페널티에 대해 주도 기법을 사용하여 페널티 함수의 이阶 도함수를 기반으로 반복적으로 페널티 가중치를 업데이트한다.
• AIM 및 기타 알고리즘을 포함하는 R 패키지 episode를 구현하였으며, 재현 가능 연구 및 적용을 위해 CRAN에 배포되어 있다.

실험 결과

연구 질문

• RQ1 다양한 환경에서의 시간 경과 데이터로부터 데이터 기반 방법이 대규모 ODE 시스템의 기저 네트워크 구조를 정확히 복원할 수 있는가?
• RQ2 제안된 AIM 알고리즘이 기존 방법에 비해 네트워크 복원 정확도와 계산 효율성 측면에서 어떻게 비교되는가?
• RQ3 이 프레임워크는 ODE 시스템 학습 과정에 얼마나 깊이까지 생물학적 사전 지식를 통합할 수 있는가?
• RQ4 실제 대규모 시스템, 예를 들어 DREAM8 인산화 단백질 네트워크와 효모의 당해리 작용에서 AIM의 성능은 어떠한가?
• RQ5 스크리닝 및 적응형 페널티 가중치 설정과 같은 다양한 알고리즘 구성 요소들이 방법의 통계적 및 계산적 특성에 어떤 영향을 미치는가?

주요 결과

• AIM 알고리즘은 제8회 DREAM 챌린지의 시뮬레이션 인산화 단백질 농도 데이터에서 최첨단 성능을 보이며 AUROC 0.74를 달성했다.
• AIM는 고차원 시스템에서도 진짜 간선을 정확히 식별하고 가짜 양성률을 낮게 유지하는 강력한 통계적 성질을 보였다.
• 스크리닝 전략 덕분에 불필요한 민감도 계산을 줄여 계산 비용을 절감함으로써 대규모 시스템에 대해 계산적으로 실현 가능했다.
• 광범위한 시뮬레이션 결과, 특히 희소하고 비선형 ODE 시스템에서 다른 방법보다 네트워크 복원 정확도에서 뛰어난 성능을 보였다.
• Saccharomyces cerevisiae의 당해리 작용 전체 모델에서 정확한 네트워크 구조를 성공적으로 복원하여 복잡한 생물학적 시스템에 대한 적용 가능성을 입증했다.
• AIM 및 기타 알고리즘을 구현한 R 패키지 episode는 CRAN에 공개되어 있어 재현 가능성과 체계 생물학 연구 분야에서의 넓은 보급을 가능하게 했다.