[論文レビュー] Gradient Tree Boosted Tobit Models for Default Prediction

Fabio Sigrist, Christoph Hirnschall|arXiv (Cornell University)|Nov 23, 2017

Financial Distress and Bankruptcy Prediction被引用数 3

ひとこと要約

本論文は、補助データを活用することで、クラス不均衡なデータセットにおけるデフォルト予測を改善する勾配木ブースティングを施したトビットモデル、Grabitモデルを提案する。スイスの中小企業ローンデータに適用した結果、Grabitは、特にクラス不均衡下において、最先端の手法を著しく上回る予測精度を達成した。

ABSTRACT

A frequent problem in binary classification is class imbalance between a minority and a majority class such as defaults and non-defaults in default prediction. In this article, we introduce a novel binary classification model, the Grabit model, which is obtained by applying gradient tree boosting to the Tobit model. We show how this model can leverage auxiliary data to obtain increased predictive accuracy for imbalanced data. We apply the Grabit model to predicting defaults on loans made to Swiss small and medium-sized enterprises (SME) and obtain a large and significant improvement in predictive performance compared to other state-of-the-art approaches.

研究の動機と目的

• デフォルト予測におけるクラス不均衡の課題、特に少数のデフォルト事例しか存在しない金融データセットにおいての課題に対処すること。
• トビットモデルと勾配木ブースティングを統合した、クラス不均衡なデータに対して性能が向上する新しい二値分類モデルの開発。
• 補助データが中小企業ローンのデフォルトリスクモデリングにおける予測精度にどのように寄与するかを調査すること。
• 実世界の中小企業信用データセットにおいて、提案されたGrabitモデルを既存の最先端手法と比較して評価すること。

提案手法

• Grabitモデルは、右側に打ち切られた回帰（censored regression）を扱うために設計されたトビットモデルに勾配木ブースティングを適用し、デフォルト結果の打ち切り性質に対処する。
• この手法は、トビット尤度に基づく損失関数を反復的に最小化することで、アンサンブル学習による予測の改善を図る。
• 主なデフォルト指標を超える追加情報である補助データを統合し、モデルの一般化能力および予測力の向上を図る。
• 各木が前のアンサンブルの残差を是正するように、決定木に基づく勾配ブースティングを用いてモデルを学習する。特に、予測が難しいケースに注目する。
• 本アプローチは、デフォルト対非デフォルトのような強いクラス不均衡を示す二値分類タスクに特に適合している。
• 最終的なモデルは、クラス不均衡下で標準的な二値分類器よりもより正確かつ頑健なデフォルト確率を出力する。

実験結果

リサーチクエスチョン

• RQ1 勾配木ブースティングは、クラス不均衡を示すデフォルト予測タスクにおいて、トビットモデルの予測性能を向上させることができるか？
• RQ2 補助データの統合は、Grabitモデルにおけるデフォルト予測の精度にどのように影響するか？
• RQ3 Grabitモデルは、スイスの中小企業におけるデフォルト予測において、既存の最先端手法を上回る性能を示すか？
• RQ4 トビットフレームワークが打ち切られた結果を扱うことで、クラス不均衡なデフォルトデータセットにおける予測にどの程度向上効果をもたらすか？

主な発見

• Grabitモデルは、スイスの中小企業ローンデータにおいて、他の最先端手法と比較して、大きな統計的有意な性能向上を達成した。
• 補助データの統合により、予測精度が向上し、モデルが追加情報の有効活用が可能であることが示された。
• 特にレアなデフォルト事象を捉える能力において、標準的な二値分類器よりもモデルが優れている。
• トビットモデルに勾配木ブースティングを適用することで、クラス不均衡なデフォルトシナリオにおける予測誤差の低減とキャリブレーションの向上が図られた。
• 結果から、ブースティングで強化されたトビットフレームワークは、結果が打ち切られたり制限されたりする金融デフォルト予測に適していることが確認された。
• Grabitモデルは、実世界の中小企業信用リスク評価において、強力な頑健性と一般化能力を示し、ベンチマークモデルを上回った。