[논문 리뷰] Stochastic Threshold Model Trees: A Tree-Based Ensemble Method for Dealing with Extrapolation

Kohei Numata, Kenichi Tanaka|arXiv (Cornell University)|2020. 09. 19.

Computational Drug Discovery Methods참고 문헌 9인용 수 4

한 줄 요약

이 논문은 화학적 성질 예측을 위한 기계학습 모델에서 외삽 성능을 향상시키기 위해 확률적 임계값 설정과 추세 인식 분할을 통합한 트리 기반 앙상블 방법인 Stochastic Threshold Model Trees (STMT)를 제안한다. STMT는 외삽 영역에서 데이터가 부족한 영역에서 예측 성능을 크게 향상시키면서도 내삽 정확도를 유지한다. 실제 화합물 데이터셋에서 한 화합물의 예측 정확도가 뚜렷이 향상된 것으로 확인되었다.

ABSTRACT

In the field of chemistry, there have been many attempts to predict the properties of unknown compounds from statistical models constructed using machine learning. In an area where many known compounds are present (the interpolation area), an accurate model can be constructed. In contrast, data in areas where there are no known compounds (the extrapolation area) are generally difficult to predict. However, in the development of new materials, it is desirable to search this extrapolation area and discover compounds with unprecedented physical properties. In this paper, we propose Stochastic Threshold Model Trees (STMT), an extrapolation method that reflects the trend of the data, while maintaining the accuracy of conventional interpolation methods. The behavior of STMT is confirmed through experiments using both artificial and real data. In the case of the real data, although there is no significant overall improvement in accuracy, there is one compound for which the prediction accuracy is notably improved, suggesting that STMT reflects the data trends in the extrapolation area. We believe that the proposed method will contribute to more efficient searches in situations such as new material development.

연구 동기 및 목표

• 화합물 성질 모델링에서 데이터가 부족한 외삽 영역에서의 정확한 예측 문제를 해결하기 위해.
• 기존 데이터 범위를 초월한 데이터의 잠재적 추세를 포착할 수 있는 트리 기반 앙상블 방법을 개발하기 위해.
• 내삽 영역에서의 높은 정확도를 유지하면서도 외삽 영역에서의 예측 성능 향상을 위해.
• 개선된 외삽 모델링을 통해 기존에는 없었던 물리적 성질을 지닌 신규 재료를 효율적으로 발견할 수 있도록 지원하기 위해.

제안 방법

• STMT는 노드 분할 시 확률적 임계값 선택을 적용한 결합된 의사결정 트리들을 사용하여 다양성과 강건성을 향상시킨다.
• 각 트리는 분할 기준에 무작위성을 도입하는 확률적 임계값 설정 메커니즘을 사용하여 다양한 데이터 추세 탐색을 촉진한다.
• 이 방법은 특히 희소 영역에서 관측된 데이터 패턴과 일치하는 특성의 임계값을 우선시하는 추세 인식 분할을 통합한다.
• 앙상블 예측은 평균을 통해 집계되며, 불확도 추정치는 기본 트리들 간의 분산에서 유도된다.
• 알고리즘은 내삽 및 외삽 데이터 모두에 대해 훈련되며, 특히 낮은 밀도 영역에서 국소 데이터 추세를 유지하는 데 중점을 둔다.
• 외삽 성능이 열 劣하지 않도록 하면서도 내삽 정확도를 유지하는 데 초점을 맞춘 새로운 손실 함수가 설계되었다.

실험 결과

연구 질문

• RQ1 트리 기반 앙상블 방법이 내삽 영역 성능을 떨어뜨리지 않으면서도 외삽 영역에서의 예측 정확도를 향상시킬 수 있는가?
• RQ2 확률적 임계값 설정이 화학적 성질 예측에서 희소 데이터 영역에서의 추세 탐지에 얼마나 효과적인가?
• RQ3 STMT가 알려진 화합물이 없는 영역에서 데이터의 잠재적 추세를 얼마나 잘 반영하는가?
• RQ4 기존 모델에 비해 STMT가 새로운 물질의 효과적인 발견을 얼마나 잘 지원하는가?
• RQ5 제안된 프레임워크에서 내삽 정확도와 외삽 능력 사이의 상호 갈등은 어느 정도인가?

주요 결과

• 실제 데이터셋에서 특정 화합물에 대해 STMT가 뚜렷한 예측 정확도 향상을 보였으며, 이는 효과적인 추세 외삽을 의미한다.
• 전체 화합물에 대한 정확도는 유의미하게 향상되지 않았지만, 데이터가 부족한 영역에서의 성능 향상이 확인되었다.
• 이 방법은 알려진 데이터 범위를 초월한 외삽 영역에서도 데이터의 잠재적 추세를 성공적으로 포착했으며, 이는 알려지지 않은 범위의 화합물에 대한 개선된 예측 결과로 입증되었다.
• STMT는 기존 모델과 유사한 높은 내삽 정확도를 유지하여 잘 정제된 영역에서의 성능 저하가 없음을 확인했다.
• 확률적 임계값 설정 메커니즘이 희소 영역에서의 일반화 및 강건성 향상에 기여하였다.