[論文レビュー] Principal Component Analysis and Factor Analysis for Feature Selection in Credit Rating

Shenghuan Yang, lonut Florescu+1 more|arXiv (Cornell University)|Nov 18, 2020

Financial Distress and Bankruptcy Prediction参考文献 20被引用数 8

ひとこと要約

本稿では、企業の信用格付け予測のための重要な財務特徴を選択するために主成分分析（PCA）と要因分析（FA）を適用し、2つのデータセット（財務比率および貸借対照表）と2つの信用格付けマッピングを用いた。FAは、はるかに少ない特徴量で95％以上の正確性を達成し、優れた性能を示した。財務比率データでは7つの主要要因、貸借対照表データでは10つの主要要因を同定し、効率的で解釈可能な信用リスク分析を可能にした。

ABSTRACT

The credit rating is an evaluation of a company's credit risk that values the ability to pay back the debt and predict the likelihood of the debtor defaulting. There are various features influencing credit rating. Therefore, it is essential to select substantive features to explore the main reason for credit rating change. To address this issue, this paper exploited Principal Component Analysis and Factor Analysis as feature selection algorithms to select important features, summarized the similar features together, and obtained a minimum set of features for four sectors, Financial Sector, Energy Sector, Health Care Sector, Consumer Discretionary Sector. This paper used two data sets, Financial Ratio and Balance Sheet, with two mappings, Detailed Mapping, and Coarse Mapping, converting the target variable(credit rating) into categorical variable. To test the accuracy of credit rating prediction, Random Forest Classifier was used to test and train feature sets. The results showed that the accuracy of Financial Ratio feature sets was higher than that of Balance Sheet feature sets. In addition, Factor Analysis can reduce the number of features significantly to obtain almost the same accuracy that can decrease dramatically the time spent on analyzing data; we also summarized seven dominant factors and ten dominant factors affecting credit rating change in Financial Ratio and Balance Sheet by utilizing Factor Analysis, respectively, which can explain the reason of credit rating change better.

研究の動機と目的

• 次元削減技術を用いて、企業の信用格付けに最も影響を与える財務特徴を特定すること。
• 主成分分析（PCA）と要因分析（FA）の特徴選択効果を比較し、信用格付けを正確に予測できる方法を評価すること。
• 相関する特徴量を潜在的要因に要約することで、データの複雑さを軽減し、解釈可能性と計算効率を向上させること。
• 異なる財務セクターにおける信用格付け変動を駆動する支配的かつ潜在的な要因を特定・解釈すること。
• 削減された特徴量セットを用いてランダムフォレストでモデル性能を評価し、どちらの手法がより高い予測正確性を達成するかを特定すること。

提案手法

• 最大の分散を説明する特徴量の線形結合を抽出するために主成分分析（PCA）を適用し、外れ値の影響を軽減するために、特徴量の重要度順位付けに二乗負荷量を使用した。
• 相関する財務変数の背後にある潜在的要因を特定するために要因分析（FA）を用い、各要因内の絶対的負荷量に基づいて特徴量を順位付けした。
• PCAおよびFAの両方の重要度スコアに基づき、上位20個の特徴量を選択することで、特徴選択の整合性と頑健性を最適化した。
• 教師あり学習を可能にするために、2つのスキーム（詳細マッピングおよび粗いマッピング）を用いて信用格付けをカテゴリカル変数に変換した。
• 削減された特徴量セットを100回にわたりランダムフォレスト分類器で学習・テストし、平均予測正確度を算出した。
• 高い因子負荷量に基づいて特徴量を解釈可能な潜在的要因にグループ化し、信用リスクの背後にある財務的要因を特定した。

実験結果

リサーチクエスチョン

• RQ1 PCAと要因分析のうち、どちらの特徴選択手法が、より少ない特徴量で高い信用格付け予測正確性を達成するか？
• RQ2 財務比率および貸借対照表データセットにおいて、信用格付け変動の大部分を説明する支配的潜在要因はいくつあるか？
• RQ3 解釈可能な財務的要因として、信用格付け変動の背後にあるものは何か？ また、2つのデータタイプ間でどのように異なるか？
• RQ4 要因分析は、PCAよりも特徴量次元をより効果的に削減できるか？ その際、高い予測正確性を維持できるか？
• RQ5 同じ機械学習パイプラインを用いた場合、財務比率特徴量は貸借対照表特徴量よりも、信用格付けを予測する上で優れているとまでは言えるか？

主な発見

• 要因分析は、主成分分析よりもはるかに少ない特徴量で95％以上の予測正確性を達成し、計算効率が向上した。
• 財務比率データセットでは、信用格付けに影響を与える7つの主要要因が同定された：負債/資産および負債/自己資本、収益および利益、キャッシュ回転率、流動性、株価、資金調達、企業価値。
• 貸借対照表データセットでは、10の主要要因が明らかになった：資産および負債、収益、インプリッド・オプション、退職後調整、年金調整、1株利益、中止事業、優先配当、非支配株主利益、進行中研究開発。
• ランダムフォレストを用いた場合、財務比率に基づく特徴量セットは貸借対照表に基づく特徴量セットよりも高い予測正確性を示した。
• PCAにおける二乗負荷量の使用により、外れ値の影響を軽減し、特徴量順位付けの頑健性が向上した。
• 要因分析により、類似した財務指標を整合的な潜在的要因にグループ化でき、信用格付け変動の根本的要因をより明確に理解できるようになった。