[論文レビュー] Hierarchical Bayesian image analysis: from low-level modeling to robust supervised learning

Adrien Lagrange, Mathieu Fauvel+2 more|arXiv (Cornell University)|Dec 1, 2017

Remote-Sensing Image Classification参考文献 43被引用数 11

ひとこと要約

本稿では、高光分譜画像における低レベルの画像モデリング（例：スペクトルアンミキシング）とロバストな教師あり分類を統合的に実行する階層ベイジアンモデルを提案する。2つのマルコフ確率場を介して教師あり学習データを潜在変数推定に統合することで、分類精度とラベル誤りに対するロバスト性が向上し、ノイズの多い真値ラベルにおいても最大95%の信頼度を示しながら、合成データおよび実世界データで最先端の性能を達成した。

ABSTRACT

Within a supervised classification framework, labeled data are used to learn classifier parameters. Prior to that, it is generally required to perform dimensionality reduction via feature extraction. These preprocessing steps have motivated numerous research works aiming at recovering latent variables in an unsupervised context. This paper proposes a unified framework to perform classification and low-level modeling jointly. The main objective is to use the estimated latent variables as features for classification and to incorporate simultaneously supervised information to help latent variable extraction. The proposed hierarchical Bayesian model is divided into three stages: a first low-level modeling stage to estimate latent variables, a second stage clustering these features into statistically homogeneous groups and a last classification stage exploiting the (possibly badly) labeled data. Performance of the model is assessed in the specific context of hyperspectral image interpretation, unifying two standard analysis techniques, namely unmixing and classification.

研究の動機と目的

• 従来のパイプラインが特徴抽出と分類を別々のステップとして扱い、低レベルモデリング段階で教師あり情報を利用しないことが課題であるのを是正する。
• 専門家が提供する、おそらくノイズを含む真値ラベルを潜在構造推定プロセスに組み込むことで、分類のロバスト性を向上させる。
• スペクトルアンミキシングと教師あり分類という2つの標準的手法を、一貫性のあるベイジアン枠組み内で統合する。
• データ構造とラベル付き学習サンプルの両方にインformedな潜在変数抽出による次元削減を可能にする。
• 同時に誤ラベルの是正と分類のための特徴表現の強化を実現する手法を提供する。

提案手法

• 本モデルは、3段階の階層ベイジアンフレームワークを用いる：ピクセルスペクトルのエンドメンバーへの低レベルモデリング、潜在特徴の同質なグループへのクラスタリング、教師あり分類。
• マルコフ確率場（MRF）により、推定されたクラスラベルとその背後にあるクラスタ構造との間で空間的整合性を強制する。
• 別のMRFにより、推定されたクラスラベルと専門家が提供した部分的にラベル付けされた学習データとの間で一貫性を強制する。
• 変分ベイジアン推論を用いて、高次元の潜在空間を扱うために、エンドメンバーの混合比、クラスタ割り当て、クラスラベルを同時に推定する。
• 訓練ラベルの信頼度はパラメータηpでモデル化され、真値ラベルに不確実性や誤りが存在する場合にも対応可能である。
• 物理モデル（例：スペクトル混合）とラベル付きデータの両方からの事前知識を統合することで、一般化性能とロバスト性が向上する。

実験結果

リサーチクエスチョン

• RQ1 低レベルの画像モデリングと教師あり分類を、1つの確率的枠組み内で効果的に統合することで、両タスクの性能向上が図れるか？
• RQ2 専門家が提供する、誤りを含む可能性のある訓練ラベルを、画像解析における潜在変数推定にどう活用できるか？
• RQ3 教師あり情報（ラベル）を潜在特徴抽出プロセスに統合することで、ラベル誤りに対する分類のロバスト性がどの程度向上するか？
• RQ4 提案手法は、アンミキシングと分類を同時に実行しながら、実際の高光分譜データにおいても精度と解釈可能性を向上させられるか？
• RQ5 クラスタ、混合比、ラベルの同時推定は、逐次パイプラインに比べてより優れた特徴表現を生み出すか？

主な発見

• 合成データでは、訓練ラベルの信頼度が95%の条件下で分類精度が98.5%に達し、ベースライン手法を上回った。
• MUESLIプロジェクトの実高光分譜データでは、CohenのKappa係数が0.87を記録し、ノイズを含む真値ラベルでも高い分類精度を示した。
• 本モデルはラベル汚染に対して強く、30%の汚染率でも最先端のランダムフォレスト分類器を上回る高い精度を維持した。
• 空間的および統計的整合性を活用することで、誤ラベルの是正を効果的に行えた。
• 推定された相互作用行列から、クラスタとクラス間の意味のある空間的関係が明らかになった。例えば、画像2ではクラス1が主にクラスタ#2と#9から構成されていた。
• 同時モデリングフレームワークにより、より一貫性があり解釈可能な画像解釈が得られ、潜在構造から導かれる特徴表現が向上した。