[논문 리뷰] Mortality rate forecasting: can recurrent neural networks beat the Lee-Carter model?

Gábor Petneházi, József Gáll|arXiv (Cornell University)|2019. 09. 12.

Insurance, Mortality, Demography, Risk Management인용 수 7

한 줄 요약

이 연구는 다국적, 다연령, 다성별 데이터를 종합적으로 학습시켜 데이터 효율성을 높이기 위해 사망률 예측을 위한 공동(long) 순환 신경망(LSTM)을 제안한다. 35개 국가와 111개 연령군에서의 예측 정확도에서 LSTM은 널리 사용되는 Lee-Carter 모델을 능가하며, 특히 국가별로 개별적으로 학습하는 것보다 전 세계적으로 학습할 경우 더 뛰어난 성능을 보이며, 10년 예측의 외부 샘플(out-of-sample) 성능이 뛰어나다.

ABSTRACT

This article applies a long short-term memory recurrent neural network to mortality rate forecasting. The model can be trained jointly on the mortality rate history of different countries, ages, and sexes. The RNN-based method seems to outperform the popular Lee-Carter model.

연구 동기 및 목표

• 순환 신경망이 확립된 Lee-Carter 모델보다 사망률 예측에서 뛰어나게 작용할 수 있는지 평가하는 것.
• 사망률 시계열에서 역사적 데이터가 제한된 문제를 해결하기 위해 단일 LSTM 모델을 다국적, 다연령, 다성별로 공동 학습시키는 것.
• 다양한 사망률 시계열 간 공동 학습이 예측 정확도에 미치는 영향을 평가하는 것.
• 기본 LSTM 모델과 고차원 SVD 성분 및 auto-ARIMA 선택 기능을 갖춘 개선된 Lee-Carter 변종 간의 성능을 비교하는 것.
• 이상적인 패턴(예: 헝가리의 중년 사망률 이질성)을 포함한 다양한 사망률 추세에 대한 예측 정확도의 견고성(로버스트함)을 평가하는 것.

제안 방법

• 35개 국가의 연령군(111개) 및 성별의 로그 사망률 데이터를 종합적으로 학습시켜 공통된 시간 패턴을 활용한다.
• LSTM는 입력, 잊기, 출력의 세 개의 게이트와 셀 상태를 통해 사망률 시계열의 장기 의존성을 모델링하며, 시간에 따른 역전파(backpropagation through time)를 통해 파라미터를 최적화한다.
• 전체, 남성, 여성 사망률 데이터를 통합하여 학습하고, 예측은 오직 총인구 사망률에 대해서만 생성된다.
• 기준 모델로 Lee-Carter 모델을 사용하며, 시간 인덱스 $k_t$는 드리프트가 있는 랜덤 워크(ARIMA(0,1,0))로 모델링된다.
• 모델 성능 평가에는 생애표의 마지막 10년 데이터를 대상으로 RMSE, MAE, MedAE, SMAPE, ME를 사용한다.
• 개선된 Lee-Carter 변종으로는 제3차원 SVD 모델과 AIC 및 KPSS 검정을 활용한 auto-ARIMA 선택 기법을 테스트한다.

실험 결과

연구 질문

• RQ1 LSTM와 같은 순환 신경망이 다국적 10년 사망률 예측에서 Lee-Carter 모델을 능가할 수 있는가?
• RQ2 국가, 연령, 성별 간 공동 학습이 개별 시계열 길이가 짧은 상황에서도 예측 정확도를 향상시키는가?
• RQ3 LSTM 성능이 고차원 성분과 auto-ARIMA 선택 기능을 갖춘 개선된 Lee-Carter 모델과 비교해 어떻게 나타나는가?
• RQ4 LSTM 모델은 Lee-Carter가 실패하는 경우, 예를 들어 헝가리의 이질적인 중년 사망률 패턴과 같은 이상한 추세를 처리할 수 있는가?
• RQ5 남성 및 여성 사망률 데이터를 학습 세트에 추가하면 LSTM의 총인구 사망률 예측 정확도가 향상되는가?

주요 결과

• 전 세계 LSTM 모델은 RMSE 기준 35개 국가 중 26개(74%)와 111개 연령군 중 24개(22%)에서 표준 Lee-Carter 모델을 능가했다.
• LSTM 모델은 Lee-Carter가 실패한 경우(예: 헝가리 중년 남성 사망률의 이질성)를 포함한 다양한 사망률 추세에서 더 정확한 예측을 제공했다.
• 제3차원 Lee-Carter 모델은 RMSE를 0.0078로 낮추고 SMAPE를 17.28로 줄여 LSTM과의 격차를 좁혔지만, 여전히 전체적으로 성능이 열 劣하다.
• auto-ARIMA 확장은 최소한의 성능 향상을 보였으며, RMSE는 0.0115에서 0.0113으로 뿐만 아니라 약간 감소했다.
• 모든 국가와 연령군에 걸쳐 공동 학습을 통해 LSTM 성능이 크게 향상되었으며, 전 세계 모델이 국가별 모델보다 뛰어난 성능을 보였다.
• 학습 세트에 남성 및 여성 사망률 데이터를 추가했지만, 총인구 사망률 예측 정확도에 명확한 향상은 없었다.