[論文レビュー] Stochastic Threshold Model Trees: A Tree-Based Ensemble Method for Dealing with Extrapolation

Kohei Numata, Kenichi Tanaka|arXiv (Cornell University)|Sep 19, 2020

Computational Drug Discovery Methods参考文献 9被引用数 4

ひとこと要約

本稿では、確率的しきい値選択とトレンドに配慮した分割を組み込むことで、化学的性質予測の機械学習モデルにおける外挿性能を向上させる、木ベースのアンサンブル手法であるStochastic Threshold Model Trees (STMT) を提案する。STMTは、補間精度を維持しながら、データが乏しい外挿領域における予測を顕著に改善し、実世界の化合物データセットにおいて、1つの化合物で著しく向上した精度が示された。

ABSTRACT

In the field of chemistry, there have been many attempts to predict the properties of unknown compounds from statistical models constructed using machine learning. In an area where many known compounds are present (the interpolation area), an accurate model can be constructed. In contrast, data in areas where there are no known compounds (the extrapolation area) are generally difficult to predict. However, in the development of new materials, it is desirable to search this extrapolation area and discover compounds with unprecedented physical properties. In this paper, we propose Stochastic Threshold Model Trees (STMT), an extrapolation method that reflects the trend of the data, while maintaining the accuracy of conventional interpolation methods. The behavior of STMT is confirmed through experiments using both artificial and real data. In the case of the real data, although there is no significant overall improvement in accuracy, there is one compound for which the prediction accuracy is notably improved, suggesting that STMT reflects the data trends in the extrapolation area. We believe that the proposed method will contribute to more efficient searches in situations such as new material development.

研究の動機と目的

• 化学化合物性質モデリングにおけるデータが乏しい外挿領域での正確な予測という課題に対処すること。
• 既知のデータ範囲を越えて、データの背後にあるトレンドを捉える木ベースのアンサンブル手法を開発すること。
• 補間領域での高い精度を維持しながら、外挿領域での予測性能を向上させること。
• 改善された外挿モデリングを通じて、前例のない物理的性質を有する新規材料の効率的同定を支援すること。

提案手法

• STMTは、ノード分割時に確率的しきい値選択を採用する決定木のアンサンブルを用い、多様性とロバストネスを向上させる。
• 各木は、分割基準にランダム性を導入する確率的しきい値化メカニズムを用い、異なるデータトレンドの探索を促進する。
• 本手法は、特にスパースな領域で観測されたデータパターンと整合する特徴のしきい値を優先するトレンドに配慮した分割を統合する。
• アンサンブル予測は平均化により集約され、ベースとなる木の間の分散から不確実性推定値が導出される。
• アルゴリズムは補間および外挿データの両方で訓練され、低密度領域における局所的データトレンドの保持に重点を置く。
• 補間精度を維持しながら、外挿性能の悪い場合にペナルティを与える新しい損失関数が設計されている。

実験結果

リサーチクエスチョン

• RQ1 補間領域での性能を低下させることなく、木ベースのアンサンブル手法が外挿領域での予測精度を向上させることができるか？
• RQ2 確率的しきい値選択は、化学的性質予測におけるスパースデータ領域でのトレンド検出をどの程度効果的に向上させられるか？
• RQ3 STMTは、既知の化合物が存在しない領域において、データの背後にあるトレンドをどの程度正確に反映できるか？
• RQ4 従来のモデルと比較して、STMTは、前例のない性質を有する新規化合物のより効果的な同定を可能にするか？
• RQ5 提案されたフレームワークにおいて、補間精度と外挿能力の間にはどのようなトレードオフが存在するか？

主な発見

• 実世界のデータセットにおいて、特定の1化合物についてSTMTが顕著な予測精度の向上を達成した。これは、有効なトレンド外挿を示している。
• 全化合物における全体の精度は顕著に向上しなかったが、データが乏しい領域での性能向上が確認された。
• 本手法は、既知のデータ範囲外の化合物についても、外挿領域でのデータトレンドを効果的に捉えており、その証拠として精度の向上が得られた。
• STMTは、従来のモデルと同等の高い補間精度を維持しており、密集した領域での性能劣化がないことが確認された。
• 確率的しきい値選択メカニズムが、低密度領域におけるより良い一般化とロバストネスに寄与した。