[論文レビュー] Fibres of Failure: Classifying errors in predictive processes

Leo S. Carlsson, Gunnar Carlsson+1 more|arXiv (Cornell University)|Feb 9, 2018

Anomaly Detection Techniques and Applications参考文献 45被引用数 6

ひとこと要約

FiFaは、予測モデルの障害モードを予測誤差によって入力データを階層化するMapperアルゴリズムを用いて分類するトポロジカル・データ解析手法である。ノイズの多いMNIST画像において、明確に分離された障害モードを同定し、それらを補正するレイヤーを導入することで、正確性を最大19.33%向上させつつ、正常データの0.32%しか誤って補正しない。

ABSTRACT

We describe Fibres of Failure (FiFa), a method to classify failure modes of predictive processes using the Mapper algorithm from Topological Data Analysis. Our method uses Mapper to build a graph model of input data stratified by prediction error. Groupings found in high-error regions of the Mapper model then provide distinct failure modes of the predictive process. We demonstrate FiFa on misclassifications of MNIST images with added noise, and demonstrate two ways to use the failure mode classification: either to produce a correction layer that adjusts predictions by similarity to the failure modes; or to inspect members of the failure modes to illustrate and investigate what characterizes each failure mode.

研究の動機と目的

• 予測モデルの障害モードをトポロジカル・データ解析を用いて診断・分類する手法を開発すること。
• ノイズや汚染の下でも、予測モデルが一貫して失敗する入力空間の領域を特定すること。
• 同定された障害パターンに類似する新しい入力を、類似する障害モードに分類することで補正介入を可能にすること。
• 特定の誤予測タイプと関連する入力データの特徴や構造を明らかにすることで、解釈可能性を提供すること。

提案手法

• 予測誤差によって入力データを階層化するため、トポロジカル・データ解析のMapperアルゴリズムを適用して、データ空間のグラフモデルを構築する。
• 連続的なフィルタ関数を用いて、誤差の大きさに基づき重複領域を持つパーティションにデータ空間を分割し、トポロジカル構造を保持する。
• 高誤差領域における連結成分を、類似した誤予測行動を示すクラスタとして、別個の障害モードとして特定する。
• 障害モードの代表例（シード）を用いて分類器（例：ロジスティック回帰またはSVM）を学習させ、新しい入力を障害モードに割り当てる。
• 識別された障害モードの平均誤差をモデル出力から差し引くことで、予測を補正するレイヤーを実装する。
• ペンルティメート層およびアンティペンルティメート層の活性化出力を入力として、ノイズを加えたMNISTに対するCNNにこの手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 予測モデルの障害モードを、トポロジカル・データ解析を用いて体系的に分類することは可能か？
• RQ2 内部的に一貫性があり、予測誤差や入力空間の特徴において明確に異なる障害モードを同定できるか？
• RQ3 障害モード分類を用いたターゲット補正レイヤーの導入によって、予測正確性はどの程度向上できるか？
• RQ4 特定の障害モードに属する入力データの特徴を検査することで、モデルの挙動に関するどのような洞察が得られるか？
• RQ5 この手法は、画像分類にとどまらず、回帰モデルなどの他の予測プロセスへも一般化可能か？

主な発見

• FiFaは、ペンルティメート層およびアンティペンルティメート層の活性化出力を用いて、ノイズを含むMNIST画像を学習させたCNNにおいて、39の明確に分離された障害モードを同定した。
• 障害モード分類に基づく補正レイヤーを適用した結果、汚染されたMNISTデータにおける予測正確性が19.33%の絶対的向上を達成した。
• 正常（汚染されていない）画像のうち、誤って補正された割合はわずか0.32%であり、障害モード検出の高い特異性を示している。
• 障害モード群はニューラル活性化パターンによって明確に区別された：5の数字に対して、障害モードは、5の識別に特化したニューロンにおける空白のサリエンシーマップを示すなど、特徴的な行動を示した。
• 補正レイヤーは誤差率を顕著に低下させつつ、正常データの忠実性を維持した。障害モードグループに属する画像のうち0.21%が正常画像であった。
• この手法は、鋼鉄高炉の温度予測の回帰モデルに対しても一般化可能であり、障害モードは約100°Cの一貫した過大予測および過小予測バイアスを示し、意味のある補正と冶金学的洞察を可能にした。