[논문 리뷰] Improved decision making with similarity based machine learning: Applications in chemistry

Dominik Lemm, Guido Falk von Rudorff외 1명|arXiv (Cornell University)|2022. 05. 11.

Machine Learning in Materials Science참고 문헌 92인용 수 5

한 줄 요약

이 논문은 유사도 기반 기계학습(SML)을 소개한다. SML은 주어진 쿼리와 가장 유사한 훈련 포인트들만 사용하여 쿼리별 맞춤형 모델을 훈련하는 데이터 효율적인 프레임워크이다. 대규모이고 다양한 데이터셋에 의존하는 것 대신 국소적 유사도에 초점을 맞춤으로써, SML은 훨씬 적은 데이터 포인트로도 경쟁 가능한 예측 성능를 달성한다. 이는 양자 화학 및 유기 합성 작업에서 입증되었으며, 내재 차원성과 모델 정확도 사이의 이론적 연결을 도출한다.

ABSTRACT

Despite the fundamental progress in autonomous molecular and materials discovery, data scarcity throughout chemical compound space still severely hampers the use of modern ready-made machine learning models as they rely heavily on the paradigm, 'the bigger the data the better'. Presenting similarity based machine learning (SML), we show an approach to select data and train a model on-the-fly for specific queries, enabling decision making in data scarce scenarios in chemistry. By solely relying on query and training data proximity to choose training points, only a fraction of data is necessary to converge to competitive performance. After introducing SML for the harmonic oscillator and the Rosenbrock function, we describe applications to scarce data scenarios in chemistry which include quantum mechanics based molecular design and organic synthesis planning. Finally, we derive a relationship between the intrinsic dimensionality and volume of feature space, governing the overall model accuracy.

연구 동기 및 목표

• 단지 수백 또는 수십 개의 고비용 데이터 포인트만 확보 가능한 분자 및 재료 과학 분야에서의 데이터 부족 문제를 해결한다.
• 높은 성능을 내기 위해 대규모이고 다양한 데이터셋에 의존하는 표준 기계학습 모델의 한계를 극복한다.
• 각 쿼리에 맞게 가장 유사한 데이터 포인트들만 선택하여 모델 훈련을 맞춤화함으로써 데이터 효율성을 향상시킬 수 있는 방법을 개발한다.
• SML의 효과성을 실세계 화학 적용 분야, 예를 들어 양자 성질 예측 및 유기 합성 기획과 같은 분야에서 입증한다.
• 저데이터 환경에서 특징 공간의 내재 차원성과 모델 정확도 사이의 이론적 관계를 수립한다.

제안 방법

• SML은 FCHL19나 SOAP 표현 방식을 사용해 특징 공간에서 쿼리와 훈련 포인트 간의 유사도(거리)를 기반으로 훈련 데이터를 선택한다. 유사도 측정에는 유클리드 거리와 같은 거리 척도를 사용한다.
• 각 쿼리에 대해, 오직 $\overline{N}_q$개의 가장 가까운 이웃들만 사용하여 온디맨드로 커널 리지 회귀 모델을 훈련함으로써 쿼리별 적응을 보장한다.
• 모델의 하이퍼파rameter(σ, λ)는 전체 훈련 세트에서 교차 검증을 통해 사전에 최적화되어 있으며, 이는 각 쿼리마다 재학습이 필요 없도록 한다.
• FCHL19 및 SOAP과 같은 특징 표현 방식을 사용해 분자의 구조를 고차원 벡터로 인코딩하여 유사도 계산을 수행한다.
• SML은 무작위 기계학습(RML) 및 k-NN 기준선과 비교되며, 여러 쿼리에 대해 평균화된 학습 곡선을 통해 성능이 평가된다.
• 이론적 분석을 통해 모델 정확도가 특징 공간의 내재 차원성과 부피에 의해 영향을 받으며, 낮은 내재 차원성이 저데이터 환경에서 일반화 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 쿼리와 가장 유사한 데이터 포인트들만을 기반으로 훈련하는 기계학습 모델이 데이터가 부족한 화학적 응용 분야에서 높은 예측 정확도를 달성할 수 있는가?
• RQ2 SML의 성능은 랜덤 데이터 선택(RML) 및 k-NN 기준선 대비 데이터 효율성과 예측 정확도 측면에서 어떻게 비교되는가?
• RQ3 저데이터 환경에서 특징 공간의 내재 차원성과 SML 모델의 정확도 사이의 관계는 어떠한가?
• RQ4 SML은 양자 성질 예측 및 유기 합성 기획과 같은 실세계 화학 문제에 어느 정도 적용될 수 있는가?
• RQ5 데이터가 부족할 경우, 대규모이고 다양한 데이터셋에 기반한 글로벌 모델 대비 국소적 유사도에 기반한 쿼리별 맞춤형 모델 훈련이 더 우수한 성능을 내는가?

주요 결과

• SML은 전체 훈련 데이터의 일부만 사용하여도 경쟁 가능한 예측 정확도를 달성하며, 데이터가 극히 부족한 상황에서 랜덤 데이터 선택(RML)보다 뚜렷이 뛰어난 성능을 보인다.
• QM9 데이터셋에서 SML은 훈련 데이터의 10%만으로도 높은 정확도를 달성했으며, RML은 이 성능를 따라잡기 위해 훨씬 더 많은 데이터가 필요로 했다.
• Enamine REAL 데이터베이스의 용해 자유 에너지 예측에서 SML은 최소한의 레이블 데이터로도 낮은 평균 절대 오차(MAE)를 달성하여 대규모 합성 기획에서 실용적인 유용성을 입증했다.
• 이론적 분석 결과, 모델 정확도는 특징 공간의 내재 차원성과 부피에 의해 결정되며, 낮은 내재 차원성이 저데이터 환경에서 더 좋은 성능을 이끌어낸다.
• SML의 학습 곡선은 RML 및 k-NN 기준선 대비 더 빠른 수렴 속도와 더 낮은 데이터 요구량을 보이며, 이는 데이터 효율성의 우수성을 확인한다.
• 이 방법은 양자역학적 성질 예측 및 구조 이성체 수 계산과 같은 다양한 화학 작업에 대해 뛰어난 내재성과 일반화 능력을 보이며, 이는 그 일반화 가능성의 타당성을 입증한다.