[논문 리뷰] pre: An R Package for Fitting Prediction Rule Ensembles

Marjolein Fokkema|arXiv (Cornell University)|2017. 07. 22.

Neural Networks and Applications인용 수 3

한 줄 요약

이 논문은 회귀 및 분류를 위한 희박하고 해석 가능한 모델을 생성하기 위해 프리드먼과 포페스쿠(2008)의 방법론을 사용하는 R 패키지 pre를 소개한다. PREs는 랜덤 포레스트 수준의 예측 정확도를 달성하면서도 더 적은 변수를 사용하여 해석 가능성과 성능 사이의 균형을 이룬다.

ABSTRACT

Prediction rule ensembles (PREs) are sparse collections of rules, offering highly interpretable regression and classification models. This paper presents the R package pre, which derives PREs through the methodology of Friedman and Popescu (2008). The implementation and functionality of package pre is described and illustrated through application on a dataset on the prediction of depression. Furthermore, accuracy and sparsity of PREs is compared with that of single trees, random forest and lasso regression in four benchmark datasets. Results indicate that pre derives ensembles with predictive accuracy comparable to that of random forests, while using a smaller number of variables for prediction.

연구 동기 및 목표

• 해석 가능성과 예측 정확도 사이의 균형을 이루는 예측 규칙 앙상블(PREs)을 피팅하기 위한 R 패키지 pre를 개발하고 구현하는 것.
• 정신건강 인포매틱스 분야에서 실용적인 유용성을 입증하기 위해 실제 데이터셋을 활용해 우울증 예측에 PREs를 적용하는 것.
• 여러 기준 데이터셋에서 단일 트리, 랜덤 포레스트, 라소 회귀와의 예측 정확도 및 희박성 비교를 수행하는 것.
• 경쟁 방법보다 더 적은 예측 변수를 사용하면서도 높은 예측 성능를 유지하는지 검증하는 것.

제안 방법

• pre 패키지는 프리드먼과 포페스쿠(2008)가 제안한 예측 규칙 앙상블 방법론을 구현하며, 규칙 기반 모델링과 정규화를 결합한다.
• 패널티가 부과된 우도 접근을 통해 가장 예측력이 높은 규칙을 선택함으로써 희박한 규칙 앙상블을 생성한다.
• 라소 유사 패널티를 사용한 전진 단계 선택 과정을 통해 예측 성능를 최대화하는 최소한의 규칙 집합을 선별한다.
• 최종 앙상블은 선택된 규칙들의 가중 조합으로 구성되어 있어 희박성과 해석 가능성을 보장한다.
• 패키지는 회귀 및 분류 작업을 모두 지원하며, 내장된 교차 검증 및 모델 진단 기능을 제공한다.

실험 결과

연구 질문

• RQ1 pre 패키지를 통해 유도된 예측 규칙 앙상블은 랜덤 포레스트 수준의 예측 정확도를 달성할 수 있는가?
• RQ2 예측 규칙 앙상블의 희박성은 라소 회귀와 단일 트리와 비교해 어떻게 다른가?
• RQ3 기준 데이터셋에서 PREs는 높은 예측 성능를 유지하면서도 얼마나 높은 수준의 해석 가능성을 유지하는가?
• RQ4 pre 패키지는 우울증 예측과 같은 실세계 응용 분야에서 희박하고 정확한 모델을 효과적으로 구축하는 데 기여하는가?

주요 결과

• pre 패키지를 통해 유도된 예측 규칙 앙상블은 네 가지 기준 데이터셋 전반에서 랜덤 포레스트와 비교해 유사한 예측 정확도를 달성했다.
• pre를 사용해 유도된 앙상블는 랜덤 포레스트보다 예측에 사용하는 변수의 수가 적어져 해석 가능성이 향상되었다.
• 시험된 데이터셋에서 단일 트리와 라소 회귀보다 예측 정확도에서 뛰어난 성능를 보였다.
• 우울증 예측 데이터셋에 대한 적용은 도출된 규칙 앙상블의 실용적 유용성과 해석 가능성을 입증했다.