[논문 리뷰] Light Gradient Boosting Machine as a Regression Method for Quantitative Structure-Activity Relationships

Robert P. Sheridan, Andy Liaw외 1명|arXiv (Cornell University)|2021. 04. 28.

Computational Drug Discovery Methods참고 문헌 19인용 수 14

한 줄 요약

이 논문은 약물화학적 QSAR 모델링에서 회귀 방법으로서 경량 기울기 부스팅 머신(LightGBM)을 평가하며, 깊이 있는 신경망과 유사한 예측 정확도를 달성하면서도 랜덤 포레스트의 약 1,000배, XGBoost의 약 4배 빠른 성능을 보임을 입증한다. LightGBM는 예측 간격 추정을 내장 기능으로 지원하여 약물 개발 분야의 QSAR 응용에서의 유용성이 향상된다.

ABSTRACT

In the pharmaceutical industry, where it is common to generate many QSAR models with large numbers of molecules and descriptors, the best QSAR methods are those that can generate the most accurate predictions but that are also insensitive to hyperparameters and are computationally efficient. Here we compare Light Gradient Boosting Machine (LightGBM) to random forest, single-task deep neural nets, and Extreme Gradient Boosting (XGBoost) on 30 in-house data sets. While any boosting algorithm has many adjustable hyperparameters, we can define a set of standard hyperparameters at which LightGBM makes predictions about as accurate as single-task deep neural nets, but is a factor of 1000-fold faster than random forest and ~4-fold faster than XGBoost in terms of total computational time for the largest models. Another very useful feature of LightGBM is that it includes a native method for estimating prediction intervals.

연구 동기 및 목표

• 약물 연구에서의 QSAR 모델링을 위한 확장성 있고 정확한 회귀 방법으로 LightGBM을 평가하는 것.
• 다양한 QSAR 데이터셋에서 LightGBM의 성능을 랜덤 포레스트, XGBoost, 단일 작업 신경망과 비교하는 것.
• 대규모 QSAR 모델링에서 LightGBM의 계산 효율성과 하이퍼파rameter 민감도를 평가하는 것.
• LightGBM가 회귀 작업에서 예측 간격 추정을 내장 기능으로 어떻게 활용할 수 있는지 조사하는 것.
• Industrial QSAR 워크플로우에서 정확도, 속도, 내성의 실용적인 균형을 제공하는지 확인하는 것.

제안 방법

• 모델은 분자의 기초 기술적 특성에서 활성도 값을 예측하기 위해 경량 기울기 부스팅 결정 트리 앙상블 모델로 적용된다.
• 모델은 훈련 효율성을 향상시키고 과적합을 줄이기 위해 잎 위주의 트리 성장 전략을 사용한다.
• 공정한 비교를 위해 XGBoost, 랜덤 포레스트, 신경망과의 비교를 위해 표준 설정을 사용하여 하이퍼파rameter를 튜닝한다.
• 예측 간격은 양자점 회귀를 활용해 LightGBM 내부에서 직접 추정되며, 불확실성 정량화가 가능하다.
• 모델 성능은 RMSE 및 R²와 같은 표준 회귀 지표를 사용해 30개의 내부 QSAR 데이터셋에서 평가된다.
• 모든 모델 간의 상대적 효율성을 평가하기 위해 계산 시간을 측정하고 비교한다.

실험 결과

연구 질문

• RQ1 LightGBM의 예측 정확도는 QSAR 모델링에서 랜덤 포레스트, XGBoost, 깊이 있는 신경망과 비교해 어떻게 되는가?
• RQ2 대규모 QSAR 데이터셋에서 LightGBM의 계산 효율성은 랜덤 포레스트 및 XGBoost 대비 어떻게 되는가?
• RQ3 다양한 QSAR 데이터셋(기본 기술적 특성 및 분자 수가 상이함)에서도 LightGBM은 안정적인 성능을 유지하는가?
• RQ4 추가 校정 없이 LightGBM이 신뢰할 수 있는 예측 간격을 내장 기능으로 직접 추정할 수 있는가?
• RQ5 다른 부스팅 또는 신경망 방법에 비해 LightGBM은 하이퍼파rameter 튜닝에 덜 민감한가?

주요 결과

• LightGBM는 모든 30개의 QSAR 데이터셋에서 단일 작업 신경망과 유사한 예측 정확도를 달성했다.
• 가장 큰 모델에서 LightGBM의 총 계산 시간은 랜덤 포레스트의 약 1,000배, XGBoost의 약 4배 빠르게 측정되었다.
• 표준 설정을 사용할 경우 하이퍼파rameter 튜닝에 대해 낮은 민감도를 보이며 재현 가능성을 향상시켰다.
• LightGBM는 예측 간격 추정을 내장 기능으로 지원하여 외부 校정 없이도 불확실성 정량화를 제공한다.
• 예측 성능가능성은 유사하거나 더 뛰어나면서도 XGBoost보다 빠른 속도를 보였다.
• 이 방법은 고속도에서의 스케일링 능력과 약물 개발 응용 분야에서의 고성능 QSAR 모델링에 매우 효과적임을 입증했다.