[論文レビュー] Interpretable Discovery in Large Image Data Sets

Kiri L. Wagstaff, Jake Lee|arXiv (Cornell University)|Jun 21, 2018

Explainable Artificial Intelligence (XAI)参考文献 11被引用数 9

ひとこと要約

この論文では、CNN特徴量とDEMUDアルゴリズムを組み合わせることで、大規模な画像データセットにおける解釈可能な新奇性検出のための新規手法を提案している。アプローチは、SVDモデリングからの残差ベースの説明とアップコンボリューションネットワークを用いて、人間が理解可能な視覚的可視化を生成し、特に火星探査車の画像など、困難で不均衡なデータセットにおいても高い発見性能を達成している。同時に、正確性を損なわずに解釈可能性を維持している。

ABSTRACT

Automated detection of new, interesting, unusual, or anomalous images within large data sets has great value for applications from surveillance (e.g., airport security) to science (observations that don't fit a given theory can lead to new discoveries). Many image data analysis systems are turning to convolutional neural networks (CNNs) to represent image content due to their success in achieving high classification accuracy rates. However, CNN representations are notoriously difficult for humans to interpret. We describe a new strategy that combines novelty detection with CNN image features to achieve rapid discovery with interpretable explanations of novel image content. We applied this technique to familiar images from ImageNet as well as to a scientific image collection from planetary science.

研究の動機と目的

• 手動での点検が非現実的である大規模データセットにおいて、新奇または異常な画像を同定する課題に対処すること。
• 単なる検出を越えて、なぜ特定の画像が新奇とみなされるかを人間が理解可能な視覚的説明を提供すること。
• 見落としによるコストが高額となる可能性がある、惑星探査のような時間的に制限のある応用分野における迅速な発見を可能にすること。
• 画像の教師なし新奇性検出において、解釈可能性と高い検出性能が共存できることを示すこと。
• ラベル付きデータセット内での誤標籤例や敵対的入力の検出における本手法の有効性を検討すること。

提案手法

• 入力画像から高レベルで抽象的な画像表現を抽出するために、事前学習済みの畳み込みニューラルネットワーク（CNN）を用いる。
• 既知のデータ分布をモデリングし、再構築誤差を新奇性の指標として計算するために、増分SVDに基づくDEMUDアルゴリズムを適用する。
• 元の画像とSVDで再構築されたバージョンとの差分として、未モデル化されたコンテンツを強調する「残差ベクトル」としての原始的説明を生成する。
• アップコンボリューションネットワークを用いて、残差ベクトルを人間が理解可能なセマンティックマップ（注目マップ）に変換し、新奇な画像部品を強調する。
• 新奇性を定量化するための再構築誤差を、R(x) = ||x − (U U^T (x − μ) + μ)||₂ で表す。ここでUは上位K個の固有ベクトルを含み、μは選択されたデータの平均値である。
• 特に視覚的に類似している、またはドメインシフトが生じるデータにおいても表現品質を向上させるために、生画像やSIFT特徴量ではなくCNN特徴量を統合する。

実験結果

リサーチクエスチョン

• RQ1 大規模なデータセットにおける新奇画像発見について、視覚的に意味のある人間が理解可能な説明を生成できるか？
• RQ2 従来の表現（ピクセルやSIFT）と比較して、CNNベースの特徴量を用いることで新奇性検出性能が向上するか？
• RQ3 本手法は真の新奇性に加えて、ラベル付きデータセット内での誤標籤例や敵対的入力も検出できるか？
• RQ4 視覚的に類似しており不均衡な画像コレクションを有する、惑星探査のような現実世界の高リスク分野において、本手法の有効性はいかがなものか？
• RQ5 ローバーのミッション計画のような時間制約のある環境において、本手法が戦術的意思決定をどの程度支援できるか？

主な発見

• CNN特徴量を用いた場合、ImageNetに類似したデータセットでは、ピクセルベースやSIFTベースの表現と比較して、ほぼ完璧に近い新奇性検出性能を達成した。
• 火星探査車データセットにおいて、CNNベースのDEMUDは、ピクセルやSIFT特徴量よりも顕著に高い発見性能を示した。これは、データセットの視覚的類似性とクラスの不均衡が主な要因であった。
• 視覚的説明は、花の中心部の暗黒域やローバーのセンサーにたまったほこりといった、意味のある新奇なコンテンツを的確に強調しており、一般的な特徴（イエローの色）を無視して変異を焦点に当てていた。
• 本システムは、同一のオブジェクト（新品とほこりだらけのREMS-UVセンサー）の極端な例を、時系列データが存在しない状況でも新奇と自然に同定した。これは、時間的変化を検出できる能力を示している。
• 誤標籤されたライオンの画像（タイガーの子供とラベル付け）が異常と検出された。これは、ラベル誤りや潜在的な敵対的入力の同定に本手法が有効であることを確認している。
• CNN特徴量の使用により、ImageNetとは異なるターゲットデータ分布（例：火星の地形）に対しても、頑健な発見が可能になった。ただし、ターゲットドメインのデータでファインチューニングを行うことで、さらなる性能向上が期待できる。