[논문 리뷰] cgam: An R Package for the Constrained Generalized Additive Model

Xiyue Liao, Mary C. Meyer|arXiv (Cornell University)|2018. 12. 18.

Advanced Statistical Methods and Models참고 문헌 7인용 수 9

한 줄 요약

이 논문은 단조성, 볼록성 및 부드러운 성분에 대한 순서 제약 조건을 강제하기 위해 코네 투영을 사용하는 제약 조건이 붙은 일반화된 가산 모델을 피팅하는 R 패키지 cgam을 소개한다. 반복적으로 재가중된 코네 투영을 통해 효율적으로 모델을 추정하며, scam과 같은 경쟁 방법보다 빠른 계산 속도를 제공하며, 추가성 가정 없이 복잡한 형태 제약 표면을 정확하게 피팅할 수 있다.

ABSTRACT

The cgam package contains routines to fit the generalized additive model where the components may be modeled with shape and smoothness assumptions. The main routine is cgam and nineteen symbolic routines are provided to indicate the relationship between the response and each predictor, which satisfies constraints such as monotonicity, convexity, their combinations, tree, and umbrella orderings. The user may specify constrained splines to fit the components for continuous predictors, and various types of orderings for the ordinal predictors. In addition, the user may specify parametrically modeled covariates. The set over which the likelihood is maximized is a polyhedral convex cone, and a least-squares solution is obtained by projecting the data vector onto the cone. For generalized models, the fit is obtained through iteratively re-weighted cone projections. The cone information criterion is provided and may be used to compare fits for combinations of variables and shapes. In addition, the routine wps implements monotone regression in two dimensions using warped-plane splines, without an additivity assumption. The graphical routine plotpersp will plot an estimated mean surface for a selected pair of predictors, given an object of either cgam or wps. This package is now available from the Comprehensive R Archive Network at http://CRAN.R-project.org/package=cgam.

연구 동기 및 목표

• 단조성, 볼록성 및 순서와 같은 형태 제약 조건을 갖는 일반화된 가산 모델을 계산적으로 효율적으로 피팅할 수 있는 R 패키지를 개발하는 것.
• scam 및 mgcv와 같은 기존 패키지의 한계를 해결하여, 정규화된 스퍼린 또는 역피팅에 의존하지 않고도 빠르고 제약 조건이 붙은 스무딩을 가능하게 하는 것.
• mgcv의 gam 함수를 모델로 삼아 통합된 인터페이스를 제공하여, s.incr(x)와 같은 직관적인 문법을 사용해 형태 제약이 붙은 스무딩을 지정할 수 있도록 하는 것.
• 연속형 및 순서형 예측 변수를 모두 지원하며, 트리 및 우산 순서와 같은 다양한 제약 유형을 포함하는 것.
• 코네 정보 기준(CIC)을 사용한 모델 비교 도구와 워프드 플레인 스퍼린(วพส)을 통한 이元 효과의 시각화를 제공하는 것.

제안 방법

• 형태 제약 조건은 계수를 음이 아닌 값으로 제한함으로써 강제되는 제약 조건이 붙은 스퍼린—단조성에는 이차 I-스퍼린, 볼록성에는 삼차 C-스퍼린을 사용한다.
• 주요 피팅 루틴인 cgam은 형태 제약 조건으로 정의된 다면체 볼록 코어에 반응 벡터를 투영하여 최소 제곱 문제를 해결하며, 활성 집합 알고리즘을 사용한다.
• 일반화선형모형의 경우, 동일한 제약 조건 하에서 우도를 최대화하기 위해 반복적으로 재가중된 코네 투영을 사용한다.
• wps 함수는 추가성 가정 없이 이원 단조 표면을 워프드 플레인 스퍼린을 사용해 피팅하며, 비가산 형태 제약이 붙은 회귀를 가능하게 한다.
• 모델 비교를 위해 코네 정보 기준(CIC)이 사용되며, 다양한 변수 조합과 형태 제약 조건을 갖는 모델를 비교할 수 있다.
• plotpersp와 같은 그래픽 함수는 선택된 예측 변수 쌍에 대한 추정된 평균 표면을 시각화하여 모델 해석을 돕는다.

실험 결과

연구 질문

• RQ1 형태 제약이 붙은 가산 모델은 R에서 어떻게 효율적으로 추정될 수 있으며, 계산 속도와 통계적 정확도를 유지할 수 있는가?
• RQ2 코네 투영 방법은 역피팅 또는 정규화된 스퍼린 방법보다 단조성 또는 볼록성 부드러운 성분을 피팅하는 데서 더 우수한 성능을 보일 수 있는가?
• RQ3 비가산 설정에서 비제약 조건이 붙은 대안 모델과 비교해 실제 데이터에 대해 형태 제약이 붙은 모델은 얼마나 잘 피팅되는가?
• RQ4 복잡한 예측 변수-반응 관계가 존재할 때 형태 제약 조건은 모델 피팅과 해석 가능성에 얼마나 기여하는가?
• RQ5 패키지는 트리 및 우산 순서와 같은 다양한 순서 제약 조건을 갖는 연속형 및 순서형 예측 변수를 모두 처리할 수 있는가?

주요 결과

• cgam 패키지는 scam 패키지보다 유의미하게 더 빠른 계산 속도를 보였다: 시뮬레이션 연구에서 n=100일 때 17초 대비 611초, n=500일 때 58초 대비 842초.
• 코네 정보 기준(CIC)은 다양한 형태 제약 조건과 변수 조합을 갖는 모델 간 비교에 효과적으로 사용되었으며, 모델 선택을 지원했다.
• wps 함수는 추가성 가정 없이 이중 감소 표면을 성공적으로 피팅했으며, 플라즈마 데이터셋에 적용하여 CIC 값 5.02를 기록했다.
• 패키지는 추가성 모델이 적합하다고 정확히 식별했다. 추가성 모델의 CIC(4.97)가 비가산 모델의 CIC(5.02)와 유사했기 때문에, 모델의 단순성에 대한 지원이 이루어졌다.
• scam의 제약 조건이 지나치게 엄격하여 증가율 변화를 포착하지 못함에도 불구하고, cgam 패키지는 이중 단조이지만 균일하게 증가하지 않는 표면을 피팅하는 데서 scam보다 뛰어난 성능을 보였다.
• 기저 함수 제약 조건을 통해 단조성과 볼록성의 조합을 포함한 다양한 형태 제약 조건을 지원하며, 민첩하고 해석 가능한 모델링을 가능하게 한다.