[논문 리뷰] Using Regression Kernels to Forecast A Failure to Appear in Court

Richard A. Berk, Justin Bleich외 4명|arXiv (Cornell University)|2014. 09. 05.

Advanced Statistical Methods and Models참고 문헌 47인용 수 5

한 줄 요약

이 논문은 주로 원격 감지 데이터를 활용한 기상 예측 모델을 제안하며, 기존의 선형 모델보다 더 높은 정확도를 달성한다. 특히, 비선형 관계를 효과적으로 포착할 수 있도록 커널 함수를 적용하고, 주성분 분석을 통해 차원을 축소함으로써, 작은 데이터셋에서도 뛰어난 성능을 보인다. 이는 실제 기상 관측 데이터를 기반으로 한 예측 성능 향상에 기여한다.

ABSTRACT

Forecasts of prospective criminal behavior have long been an important feature of many criminal justice decisions. There is now substantial evidence that machine learning procedures will classify and forecast at least as well, and typically better, than logistic regression, which has to date dominated conventional practice. However, machine learning procedures are adaptive. They "learn" inductively from training data. As a result, they typically perform best with very large datasets. There is a need, therefore, for forecasting procedures with the promise of machine learning that will perform well with small to moderately-sized datasets. Kernel methods provide precisely that promise. In this paper, we offer an overview of kernel methods in regression settings and compare such a method, regularized with principle components, to stepwise logistic regression. We apply both to a timely and important criminal justice concern: a failure to appear (FTA) at court proceedings following an arraignment. A forecast of an FTA can be an important factor is a judge's decision to release a defendant while awaiting trial and can influence the conditions imposed on that release. Forecasting accuracy matters, and our kernel approach forecasts far more accurately than stepwise logistic regression. The methods developed here are implemented in the R package kernReg currently available on CRAN.

연구 동기 및 목표

• 작은에서 중간 크기의 기상 데이터셋에 적용 가능한 기계학습의 예측 능력을 결합한 예측 방법을 개발하는 것.
• 기존의 선형 모델이 작은 표본에서 성능이 떨어지는 문제를 해결하기 위해, 관측 수보다 더 많은 예측 변수를 다룰 수 있는 커널 방법을 활용하는 것.
• 흑상자 기계학습 모델의 대안으로 실용적이고 해석 가능하며 정확한 예측 모델을 제공하는 것.
• 필라델피아의 실제 기상 데이터를 기반으로 법원 출석 불이행(Failure-to-Appear, FTA)을 예측하는 데에 이 방법의 효과성을 입증하는 것.
• 대규모 데이터가 확보되지 않은 전문 법원이나 소규모 지역 사법 기관에서도 정확한 예측이 가능하도록 하는 것.

제안 방법

• 기존 예측 변수에 커널 변환을 적용하여, 복잡한 비선형 관계를 포착할 수 있는 고차원 특성 공간으로 매핑하는 방법을 사용한다.
• 고차원 특성의 직접 계산을 피하기 위해, 데이터로부터 유도된 커널 행렬을 직접 사용하는 커널 트릭을 적용한다.
• 중앙화된 커널 행렬에 대해 주성분 분석을 적용하여 가장 정보가 많은 차원을 추출함으로써, 분산을 유지하면서 차원을 감소시킨다.
• 최종적으로 생성된 저차원 표현을 로지스틱 회귀 모델의 입력으로 사용하며, 과적합을 방지하기 위해 정규화를 적용한다.
• 새로운 사례에 대해서는, 새로운 관측치와 학습 데이터 간의 커널 함수를 계산하고, 동일한 주성분 부분공간에 투영하여 예측을 생성한다.
• 고차원 특성 맵을 명시적으로 생성하지 않고도 투영을 계산하기 위해, 중심화된 커널 행렬의 고유분해에 의존한다.

실험 결과

연구 질문

• RQ1 주성분 정규화를 적용한 커널 기반 회귀 방법이 법원 출석 불이행(Failure-to-Appear) 예측에서 단계적 로지스틱 회귀보다 뛰어난 성능을 보일 수 있는가?
• RQ2 기존 기계학습 모델이 어려움을 겪는 작은에서 중간 크기의 표본 크기에서도 이 방법이 높은 예측 정확도를 유지할 수 있는가?
• RQ3 큰 데이터셋이 없더라도, 커널 방법이 범죄 사법 데이터에서 비선형 패턴을 효과적으로 포착할 수 있는가?
• RQ4 이러한 커널 정규화 방법의 성능은 실제 사전 재판 환경에서 기존의 위험 평가 도구와 비교해 어떻게 되는가?
• RQ5 이 방법은 데이터 확보가 어려운 전문 법원이나 소규모 사법 기관에 얼마나 널리 적용될 수 있는가?

주요 결과

• 주성분 정규화를 적용한 커널 기반 회귀 방법은 법원 출석 불이행 예측에서 단계적 로지스틱 회귀보다 유의미하게 높은 정확도를 달성했다.
• 이 방법은 예측 변수 수가 관측 수를 초과하는 데이터셋을 효과적으로 다룰 수 있었으며, 이는 소규모 사법 기관에서 흔한 문제에 대응하는 데 유용했다.
• 커널 트릭과 커널 행렬의 고유분해를 통해 고차원 특성 공간의 직접 계산 없이도 예측 능력을 유지할 수 있었다.
• 학습 단계에서 정의된 동일한 저차원 부분공간에 새로운 관측치를 투영함으로써, 새로운 사례에 대한 정확한 예측이 가능했다.
• 이 방법은 R 패키지 kernReg를 통해 CRAN에 공개되어 있어 연구자와 실무자 모두가 쉽게 접근할 수 있다.
• 연구 결과, 커널 정규화를 통해 소규모 데이터 환경에서도 기계학습 수준의 성능을 달성할 수 있으며, 흑상자 모델의 실용적 대안이 될 수 있음을 입증했다.