[논문 리뷰] Scalable visualisation methods for modern Generalized Additive Models

Matteo Fasiolo, Raphaël Nedellec외 2명|Bristol Research (University of Bristol)|2018. 09. 27.

Probabilistic and Robust Engineering Design인용 수 26

한 줄 요약

이 논문은 현대적 일반화선형모형(GAM)을 위한 확장 가능하고 상호작용 가능한 시각화 도구를 제안하며, 가감성 구조를 활용하고, 최대 10^8건의 관측치를 처리할 수 있으며, 다양한 반응 분포를 지원한다. mgcViz R 패키지에 구현된 이 방법들은 신속하고 불확실성 측정이 가능한 잔차 점검과 스무스 효과 시각화를 가능하게 하여, 전기 수요 예측과 같은 복잡한 실세계 적용 사례에서 모형 개발 및 검증을 크게 향상시킨다.

ABSTRACT

In the last two decades the growth of computational resources has made it possible to handle Generalized Additive Models (GAMs) that formerly were too costly for serious applications. However, the growth in model complexity has not been matched by improved visualisations for model development and results presentation. Motivated by an industrial application in electricity load forecasting, we identify the areas where the lack of modern visualisation tools for GAMs is particularly severe, and we address the shortcomings of existing methods by proposing a set of visual tools that a) are fast enough for interactive use, b) exploit the additive structure of GAMs, c) scale to large data sets and d) can be used in conjunction with a wide range of response distributions. All the new visual methods proposed in this work are implemented by the mgcViz R package, which can be found on the Comprehensive R Archive Network.

연구 동기 및 목표

• 복잡한 GAM에 대한 현대적이고 확장 가능한 시각화 도구의 부족을 해결하기 위해.
• 10^7에서 10^8 건의 관측치를 포함한 데이터셋에서도 상호작용 사용이 가능한 빠른 시각화 방법을 개발하기 위해.
• 간단한 평균 회귀를 넘어서 비지수족 분포 및 GAMLSS 모형을 포함한 광범위한 반응 분포를 지원하기 위해.
• 스무스 효과와 잔차 패턴의 불확실성 측정을 통해 상호작용 기반 모형 구축 및 검증을 촉진하기 위해.
• 고위험 예측 환경, 예를 들어 전기 수요 예측과 같은 분야에서 모형의 해석 가능성 향상과 전문가의 신뢰도 향상을 위해.

제안 방법

• Wickham(2013)의 원칙을 활용해 대규모 데이터셋을 효율적인 렲시 렌더링을 위한 압축된 표시 우호적 형태로 분할 및 요약하기.
• mgcViz R 패키지에 계층 기반, 객체 지향적 시각화 컴포넌트를 구현하여 확장성과 모듈성을 확보하기.
• 적합도 평가 및 분포 가정 위반 탐지에 위해 분위수 잔차와 웜 플롯을 사용하기.
• 신뢰도 표면과 투명도를 활용한 랜덤화를 통해 공변수 전역에서 스무스 효과의 불확실성을 시각화하기.
• 주기적 기저를 사용한 텐서 곱 스플라인을 활용해 시간대와 연중 시간 효과를 이元적 스무스로 모델링하고, 불확실성 측정을 통합하기.
• Wood 등(2016)의 고급 GAM 프레임워크를 활용해 위치, 척도, 형태 등의 다수 분포 매개변수를 동시에 모델링하기.

실험 결과

연구 질문

• RQ1 GAM에 대한 시각화 도구는 어떻게 대규모 데이터셋(10^7 건 이상)을 대상으로 상호작용 사용이 가능할 정도로 확장 가능하고 효율적으로 만들 수 있는가?
• RQ2 복잡한 비지수족 분포 모형에서 스무스 효과와 잔차 패턴의 불확실성을 효과적으로 어떻게 시각화할 수 있는가?
• RQ3 현대적 시각화 기법은 고위험 예측 응용 분야에서 상호작용 기반 모형 개발 및 검증을 어떻게 향상시키는가?
• RQ4 잔차 진단 기법인 웜 플롯과 히트맵은 복잡한 오차 구조를 가진 GAM에서 모형 잘못 설정을 식별하는 데 어떤 역할을 하는가?
• RQ5 시각화 도구는 산업 현장, 특히 전기 수요 예측과 같은 환경에서 전문가의 모형 출력 이해도와 신뢰도를 향상시킬 수 있는가?

주요 결과

• mgcViz 패키지는 최대 10^8 건의 관측치를 가진 GAM에 대해 수 초 내로 상호작용 가능한 시각화를 가능하게 하여, 모형 피팅 시간 대비 렌더링 시간을 크게 단축시켰다.
• 잔차 진단 기법인 웜 플롯은 자정에서 오전 2시 사이에 잔차의 과분산을 드러내어 시간대 효과에 대한 주기적 기저의 한계를 시사했다.
• 편균화된 커널 밀도 추정치는 다중모드 잔차 패턴을 나타내었으며, 이는 모형에 포함되지 않은 요일 효과와 누락된 요금 정보 때문일 가능성이 높았다.
• SHASH 분포에서 δ=1일 경우, 정규분포나 t-분포보다 더 나은 적합도를 보였으며, AIC는 1.608×10^6이었고, 모든 항목이 유의수준 0.01에서 유의미했다.
• 온도(T)와 열린 저장 히터 효과(Ts)의 스무스 효과는 강력하고 물리적으로 타당한 패턴을 보였는데, 낮 동안의 즉각적인 난방 효과와 밤에 나타나는 지연된 저장 히터 효과가 뚜렷했다.
• 66% 신뢰도 표면를 포함한 3차원 rgl 시각화에서는 이원 스무스 효과의 불확실성과 유의미성, 특히 연중 시간 효과에서 나타나는 네 개의 명확한 피크를 명확히 시각화했다.