[論文レビュー] Trusted Multi-View Classification

Zongbo Han, Changqing Zhang+2 more|arXiv (Cornell University)|Feb 3, 2021

Adversarial Robustness in Machine Learning参考文献 47被引用数 49

ひとこと要約

本論文は、Dirichlet分布とデンプスター–シャーフ理論を用いてビューごとの証拠を融合し、信頼できる不確実性推定とロバストな予測（OOD検出を含む）を実現する信頼性の高いマルチビュー分類法を提案する。

ABSTRACT

Multi-view classification (MVC) generally focuses on improving classification accuracy by using information from different views, typically integrating them into a unified comprehensive representation for downstream tasks. However, it is also crucial to dynamically assess the quality of a view for different samples in order to provide reliable uncertainty estimations, which indicate whether predictions can be trusted. To this end, we propose a novel multi-view classification method, termed trusted multi-view classification, which provides a new paradigm for multi-view learning by dynamically integrating different views at an evidence level. The algorithm jointly utilizes multiple views to promote both classification reliability and robustness by integrating evidence from each view. To achieve this, the Dirichlet distribution is used to model the distribution of the class probabilities, parameterized with evidence from different views and integrated with the Dempster-Shafer theory. The unified learning framework induces accurate uncertainty and accordingly endows the model with both reliability and robustness for out-of-distribution samples. Extensive experimental results validate the effectiveness of the proposed model in accuracy, reliability and robustness.

研究の動機と目的

• 安全性が重要な場面で不確実性を考慮したマルチビュー学習の必要性を動機づける。
• 特徴や出力ではなく、信念のレベルでマルチビューの証拠を統合する統一的な枠組みを提案する。
• 各ビューおよび結合した不確実性推定を正確に実現し、信頼性とロバスト性を向上させ、OOD検出を含む。
• 本手法が複数のデータセットにおいて高精度・信頼性・ロバスト性を達成することを示す。

提案手法

• 各ビューを、クラス確率に対するDirichlet分布をパラメータ化する証拠でモデル化する。
• 主観的論理を用いてビュー証拠と各ビューの信念質量および不確実性質量を結びつける。
• デンプスター–シャーフ理論を用いて各ビューの信念を結合し、結合信念とDirichletパラメータを得る。
• 結合信念をDirichletパラメータ（α）に変換して最終的なクラス確率と不確実性を導出する。
• 誤った証拠を抑制するため、調整済みクロスエントロピー（ACE）とKL散逸項を組み合わせた損失により、非負の証拠ベクトルを出力するようネットワークを訓練する。
• 全ビューに跨るマルチタスク方式で、各ビューの目的と結合目的を統合する共通損失で最適化する。

実験結果

リサーチクエスチョン

• RQ1 証拠レベルでマルチビュー情報をどのように融合して信頼できる予測と不確実性推定を得られるか？
• RQ2 Dirichletベースの証拠モデリングとデンプスター–シャーフ融合を組み合わせることで、ノイズの多いビューや分布外ビューに対するロバスト性を改善できるか？
• RQ3 提案された枠組みは、信頼された意思決定に有用な各ビューおよび結合の不確実性を正確に提供しますか？

主な発見

データ	指標	MCDO	DE	UA	EDL	提案法
Handwritten	ACC	97.37 ± 0.80	98.30 ± 0.31	97.45 ± 0.84	97.67 ± 0.32	98.51 ± 0.15
Handwritten	AUROC	99.70 ± 0.07	99.79 ± 0.05	99.67 ± 0.10	99.83 ± 0.02	99.97 ± 0.00
CUB	ACC	89.78 ± 0.52	90.19 ± 0.51	89.75 ± 1.43	89.50 ± 1.17	91.00 ± 0.42
CUB	AUROC	99.29 ± 0.03	98.77 ± 0.03	98.69 ± 0.39	98.71 ± 0.03	99.06 ± 0.03
PIE	ACC	84.09 ± 1.45	70.29 ± 3.17	83.70 ± 2.70	84.36 ± 0.87	91.99 ± 1.01
PIE	AUROC	98.90 ± 0.31	95.71 ± 0.88	98.06 ± 0.56	98.74 ± 0.17	99.69 ± 0.05
Caltech101	ACC	91.73 ± 0.58	91.60 ± 0.82	92.37 ± 0.72	90.84 ± 0.56	92.93 ± 0.20
Caltech101	AUROC	99.91 ± 0.01	99.94 ± 0.01	99.85 ± 0.05	99.74 ± 0.03	99.90 ± 0.01
Scene15	ACC	52.96 ± 1.17	39.12 ± 0.80	41.20 ± 1.34	46.41 ± 0.55	67.74 ± 0.36
Scene15	AUROC	92.90 ± 0.31	74.64 ± 0.47	85.26 ± 0.32	91.41 ± 0.05	95.94 ± 0.02
HMDB	ACC	52.92 ± 1.28	57.93 ± 1.02	53.32 ± 1.39	59.88 ± 1.19	65.26 ± 0.76
HMDB	AUROC	93.57 ± 0.28	94.01 ± 0.21	91.68 ± 0.69	94.00 ± 0.25	96.18 ± 0.10

• 6つのデータセットにおいて、サンプル外の精度とAUROCが単一ビュー不確実性手法を上回る。
• ビュー固有の不確実性を認識することで、ノイズの多いマルチビュー条件下でも高い性能を維持。
• 統合されたDirichlet証拠から結合不確実性とクラス確率を推定でき、予測に信頼できる信頼シグナルを提供。
• 分布外サンプルでは不確実性が高くなる傾向があり、OOD検出の有効性を支持。
• 難所感のあるシーン認識データセットやアクション認識データセット（例：Scene15、HMDB）で顕著な改善を示す。