[論文レビュー] Light Gradient Boosting Machine as a Regression Method for Quantitative Structure-Activity Relationships

Robert P. Sheridan, Andy Liaw+1 more|arXiv (Cornell University)|Apr 28, 2021

Computational Drug Discovery Methods参考文献 19被引用数 14

ひとこと要約

本論文は、創薬研究における定量的構造活性相関（QSAR）モデリングの回帰手法として、Light Gradient Boosting Machine（LightGBM）の有効性を評価している。LightGBMは、深層ニューラルネットワークと同等の予測精度を達成するとともに、ランダムフォレストの約1,000倍、XGBoostの約4倍の高速性を実現している。また、LightGBMは予測区間推定をネイティブにサポートしており、創薬分野のQSAR応用においてその有用性が向上する。

ABSTRACT

In the pharmaceutical industry, where it is common to generate many QSAR models with large numbers of molecules and descriptors, the best QSAR methods are those that can generate the most accurate predictions but that are also insensitive to hyperparameters and are computationally efficient. Here we compare Light Gradient Boosting Machine (LightGBM) to random forest, single-task deep neural nets, and Extreme Gradient Boosting (XGBoost) on 30 in-house data sets. While any boosting algorithm has many adjustable hyperparameters, we can define a set of standard hyperparameters at which LightGBM makes predictions about as accurate as single-task deep neural nets, but is a factor of 1000-fold faster than random forest and ~4-fold faster than XGBoost in terms of total computational time for the largest models. Another very useful feature of LightGBM is that it includes a native method for estimating prediction intervals.

研究の動機と目的

• 創薬研究におけるスケーラブルで高精度な回帰手法として、LightGBMをQSARモデリングに適用するための評価を行う。
• 多様なQSARデータセットにおいて、LightGBMの性能をランダムフォレスト、XGBoost、およびシングルタスク深層ニューラルネットワークと比較する。
• 大規模なQSARモデリングにおける、LightGBMの計算効率とハイパーパrameter感受性を評価する。
• 回帰タスクにおけるLightGBMの予測区間推定のネイティブな能力を検証する。
• LightGBMが産業的QSARワークフローにおいて、精度、速度、頑健性の実用的バランスを提供できるかを検討する。

提案手法

• 分子記述子からの活性値予測に、勾配ブースティング木アンサンブルモデルとしてLightGBMを適用する。
• 訓練効率の向上と過学習の低減を目的に、リーフワイズ木成長戦略を採用する。
• XGBoost、ランダムフォレスト、深層ニューラルネットワークと公平な比較が行えるよう、標準的な設定でハイパーパrameterをチューニングする。
• 予測区間は、定量回帰を用いたLightGBM内でのネイティブな推定により、不確実性の定量化を可能にする。
• 標準的な回帰指標（RMSEやR²など）を用いて、30件の社内QSARデータセット全体でモデル性能を評価する。
• 全モデルの計算時間を測定し、相対的な効率性を比較する。

実験結果

リサーチクエスチョン

• RQ1 LightGBMの予測精度は、ランダムフォレスト、XGBoost、深層ニューラルネットワークと比較して、QSARモデリングにおいてどのように差異を示すか？
• RQ2 大規模なQSARデータセットにおいて、LightGBMの計算効率はランダムフォレストやXGBoostと比較してどの程度か？
• RQ3 異なる記述子数・分子数を有する多様なQSARデータセットにおいて、LightGBMは安定した性能を維持できるか？
• RQ4 追加のキャリブレーションを要せず、LightGBMが信頼性の高い予測区間をネイティブに推定できるか？
• RQ5 他のブースティング法やニューラルネットワーク手法と比較して、LightGBMはハイパーパrameterチューニングに対して感受性が低いとされるか？

主な発見

• LightGBMは、30件のすべてのQSARデータセットにおいて、シングルタスク深層ニューラルネットワークと同等の予測精度を達成した。
• 最大のモデルにおいて、LightGBMの総合計算時間はランダムフォレストの約1,000倍、XGBoostの約4倍高速であった。
• 標準的な設定を用いることで、ハイパーパrameterチューニングに対する感受性が低く、再現性の向上が見られた。
• LightGBMは予測区間推定をネイティブにサポートしており、外部キャリブレーションを要せず不確実性の定量化が可能である。
• LightGBMはXGBoostを上回る速度を発揮しながら、同等またはより優れた予測性能を維持した。
• 本手法は、創薬応用におけるハイパーフレッセスQSARモデリングにおいて、非常にスケーラブルかつ効果的であることが実証された。