[論文レビュー] Concise Logarithmic Loss Function for Robust Training of Anomaly Detection Model

YeongHyeon Park|arXiv (Cornell University)|Jan 15, 2022

Anomaly Detection Techniques and Applications被引用数 7

ひとこと要約

本稿では、自己符号化器ベースのモデルにおける学習安定性および異常検出性能の向上を目的として、新しい対数平均二乗誤差（LMSE）損失関数を提案する。予測誤差に対数スケーリングを適用することにより、LMSEは勾配の流れと損失の収束を向上させ、MNISTではMSEと比較して最大0.017のAUROC向上を示し、Fashion-MNISTでは一貫した安定性を示した。

ABSTRACT

Recently, deep learning-based algorithms are widely adopted due to the advantage of being able to establish anomaly detection models without or with minimal domain knowledge of the task. Instead, to train the artificial neural network more stable, it should be better to define the appropriate neural network structure or the loss function. For the training anomaly detection model, the mean squared error (MSE) function is adopted widely. On the other hand, the novel loss function, logarithmic mean squared error (LMSE), is proposed in this paper to train the neural network more stable. This study covers a variety of comparisons from mathematical comparisons, visualization in the differential domain for backpropagation, loss convergence in the training process, and anomaly detection performance. In an overall view, LMSE is superior to the existing MSE function in terms of strongness of loss convergence, anomaly detection performance. The LMSE function is expected to be applicable for training not only the anomaly detection model but also the general generative neural network.

研究の動機と目的

• 標準の平均二乗誤差（MSE）損失を用いた深層自己符号化器の異常検出における学習不安定性を解消すること。
• バックプロパゲーション中の大きな予測誤差への感受性を低減することで、学習のロバスト性を向上させること。
• より安定的で一貫性のある損失収束プロセスを通じて、異常検出性能を向上させること。
• MNISTおよびFashion-MNISTを含む複数のベンチマークデータセット上で、提案されたLMSE損失をMSEおよびMSLEと比較して評価すること。

提案手法

• MSE損失関数における予測誤差に対数変換を適用し、対数平均二乗誤差（LMSE）損失を定義する。
• LMSE損失は $ L_{\text{LMSE}}(y,\hat{y}) = \frac{1}{N} \sum_{n=1}^{N} (\log(y+1) - \log(\hat{y}+1))^2 $ として定義され、目的変数および予測値の両方に対数スケーリングが適用される。
• 公平な損失関数間比較を保証するため、グリッドサーチを用いてハイパーパrameter（潜在次元および学習率）のチューニングを実施する。
• 10クラス設定ごとのデータセットで、異常検出性能の評価にAUROCを主な指標として用いる。
• 損失収束および勾配ダイナミクスの可視化により、MSEとLMSEの間での学習安定性を比較する。
• MNISTおよびFashion-MNISTにおけるアブレーションスタディを実施し、走行回ごとの平均性能および標準偏差を分析する。

実験結果

リサーチクエスチョン

• RQ1 MSE損失の対数変換は、自己符号化器ベースの異常検出モデルにおける学習安定性を向上させるか？
• RQ2 LMSEは、損失収束速度および収束の一貫性において、MSEおよびMSLEと比較して優れているか？
• RQ3 LMSEは、異なる正規クラス定義におけるAUROCで測定される異常検出性能にどのような影響を与えるか？
• RQ4 LMSEの性能向上は、MNISTおよびFashion-MNISTのような多様なデータセットにおいて統計的に有意かつ一貫性を示すか？
• RQ5 LMSEは、MSEと比較して、異なるハイパーパrameter設定における学習結果の分散を低減できるか？

主な発見

• LMSEは、MNISTおよびFashion-MNISTの両方で、平均損失が低く、走行間の標準偏差が小さいという点で、優れた損失収束安定性を示した。
• MNISTデータセットでは、LMSEが平均AUROC 0.893 ± 0.067を達成し、MSEの0.887 ± 0.074を上回り、平均AUROCで0.006の向上を示した。
• MNISTの「クラス2」異常検出タスクにおいて、LMSEはMSEに対する最大0.017のAUROC向上を達成した。
• Fashion-MNISTでは、LMSEの平均AUROC（0.901 ± 0.060）はMSEの0.903 ± 0.060とわずかに低かったが、性能の安定性は同等であった。
• MNISTでは、LMSEのAUROCの標準偏差（0.067）がMSEの0.074より低く、より一貫性のある性能を示した。
• 可視化分析により、LMSEは高誤差領域で急勾配を生成し、大きな誤差の迅速な是正を可能にし、学習のロバスト性が向上することが確認された。