[論文レビュー] Enhancing Feature Selection and Interpretability in AI Regression Tasks Through Feature Attribution

Alexander Hinterleitner, Thomas Bartz–Beielstein+4 more|arXiv (Cornell University)|Sep 25, 2024

Machine Learning and Data Classification被引用数 4

ひとこと要約

本稿では、統合勾配法を用いた特徴量帰属とk-meansクラスタリングを統合することで、ターボ機械のブレード振動予測において、深層ニューラルネットワークの性能と解釈可能性を著しく向上させる、新規のデータ駆動型特徴量選択パイプラインを提案する。この手法により、ノイズの多い入力をフィルタリングすることでモデルの精度と安定性が向上し、特に振動モードやドライブトレイン温度といった特徴量が最も予測力の高い要因として特定された。

ABSTRACT

Research in Explainable Artificial Intelligence (XAI) is increasing, aiming to make deep learning models more transparent. Most XAI methods focus on justifying the decisions made by Artificial Intelligence (AI) systems in security-relevant applications. However, relatively little attention has been given to using these methods to improve the performance and robustness of deep learning algorithms. Additionally, much of the existing XAI work primarily addresses classification problems. In this study, we investigate the potential of feature attribution methods to filter out uninformative features in input data for regression problems, thereby improving the accuracy and stability of predictions. We introduce a feature selection pipeline that combines Integrated Gradients with k-means clustering to select an optimal set of variables from the initial data space. To validate the effectiveness of this approach, we apply it to a real-world industrial problem - blade vibration analysis in the development process of turbo machinery.

研究の動機と目的

• 深層学習における回帰タスクに特化した有効な特徴量選択手法の不足に取り組むこと。特に産業応用に向けた応用を想定する。
• 説明可能なAI（XAI）手法を用いて、情報のないまたはノイズの多い特徴量を除外することで、モデルの性能と耐障害性を向上させること。
• 特徴量帰属とクラスタリングを統合することで、任意のしきい値を用いない、データ駆動型かつモデルに依存しない特徴量選択パイプラインを構築すること。
• 解釈可能性と精度が重要な実世界の産業的回帰問題—ターボ機械のブレード振動予測—において、本手法の有効性を検証すること。
• 特徴量帰属が説明のためのものにとどまらず、モデルの一般化性能と安定性の向上にも寄与することを示すこと。

提案手法

• すべてのデータセットに対して局所的な重要度スコアを計算するために、勾配に基づくモデルに依存しない特徴量帰属手法である統合勾配法（IG）を採用する。
• 全サンプルにわたってIG帰属値を集約し、グローバルな特徴量重要度順位を取得することで、特徴量の関連性を包括的に把握する。
• 集約された帰属値にk-meansクラスタリングを適用し、重要度に基づいて特徴量をグループ化する。異なるクラスタは、高・中・低重要度の特徴量を表す。
• 最も重要度が低いクラスタ（可視化では紫のクラスタとして識別）をしきい値として用い、任意のカットオフに依存せずに情報のない入力を削除する。
• 信頼性のある帰属を確保するため、スループットベースのハイパーパramータ最適化を用いて深層ニューラルネットワークを訓練・チューニングする。
• 合成的で透明なデータとターボ機械からの実産業データを用い、本手法をベースラインの特徴量選択手法およびKernelShapと比較する。

実験結果

リサーチクエスチョン

• RQ1 統合勾配法のような特徴量帰属手法を、モデルの説明のためではなく、回帰タスクにおける特徴量選択に再利用することは可能か？
• RQ2 特徴量帰属とクラスタリングを組み合わせることで、高次元の回帰問題における深層ニューラルネットワークの耐障害性と性能がどのように向上するか？
• RQ3 本手法は、従来のフィルタ法やワラッパー法に比べて、予測精度と誤差の安定性においてどの程度優れているか？
• RQ4 ターボ機械のブレード振動予測において、どの入力特徴量が最も予測に影響を与えているか？また、それらは分野の知識と整合しているか？
• RQ5 最終モデルの予測精度が特徴量帰属の品質に依存するか？また、これは選択プロセスの信頼性にどのように影響するか？

主な発見

• ノイズの多いまたは情報のない特徴量をフィルタリングすることで、本手法はモデルの性能を著しく向上させるとともに、予測誤差の標準偏差を低減した。
• 「振動モード」（「振動特性」グループに属する）が最も重要な予測要因として特定され、自然振動数に関する工学的直感と一致した。
• ドライブトレイン温度（インデックス80および83）が回転速度（インデックス18）よりも重要度が高かったことから、振動振幅との間に遅延的または間接的な関係がある可能性が示唆された。
• 熱力学的変数から得られる質量流量（インデックス30）、体積流量（インデックス29）、潤滑油圧力（インデックス72）も高い重要度を示し、システムダイナミクスにおける役割を示した。
• 「実験設定」グループに属するひずみゲージ識別子（インデックス2）が重要であることが判明し、測定設定の構成が予測精度に与える影響の重要性が浮き彫りになった。
• 「品質基準」特徴量（インデックス12）も高い関連性を示し、データ品質指標がモデルの予測に影響を与えている可能性を示唆した。