[論文レビュー] Robust Ordinal VAE: Employing Noisy Pairwise Comparisons for Disentanglement

Junxiang Chen, Kayhan Batmanghelich|arXiv (Cornell University)|Oct 14, 2019

Generative Adversarial Networks and Image Synthesis参考文献 22被引用数 6

ひとこと要約

本稿では、ノイズの多い対比較順序付き評価を活用してデータ内の潜在的要因の分離を達成する、ロバスト順序付きVAE（ROVAE）を提案する。各比較に対して非負の信頼性スコアを導入することで、ROVAEは自動的に信頼性の低いラベルを同定し、低減させ、合成データおよび臨床分野の実データにおいて、特にCTスキャンからのCOPD重症度のモデリングにおいて、著しく高いロバスト性と分離性能を達成する。

ABSTRACT

Recent work by Locatello et al. (2018) has shown that an inductive bias is required to disentangle factors of interest in Variational Autoencoder (VAE). Motivated by a real-world problem, we propose a setting where such bias is introduced by providing pairwise ordinal comparisons between instances, based on the desired factor to be disentangled. For example, a doctor compares pairs of patients based on the level of severity of their illnesses, and the desired factor is a quantitive level of the disease severity. In a real-world application, the pairwise comparisons are usually noisy. Our method, Robust Ordinal VAE (ROVAE), incorporates the noisy pairwise ordinal comparisons in the disentanglement task. We introduce non-negative random variables in ROVAE, such that it can automatically determine whether each pairwise ordinal comparison is trustworthy and ignore the noisy comparisons. Experimental results demonstrate that ROVAE outperforms existing methods and is more robust to noisy pairwise comparisons in both benchmark datasets and a real-world application.

研究の動機と目的

• ノイズの多い対比較順序付き評価のみを監視信号として利用する状況において、潜在的要因の分離を達成すること。
• 各対比較の信頼性を自動的に評価し、トレーニング中にノイズの多いラベルを低減する手法を開発すること。
• 特に実臨床応用において、信頼性の低い人為的順序付きフィードバックが存在する状況でも、分離のロバスト性を向上させること。
• ノイズの多い比較から学習することで、単にノイズの多いラベルそのものに依存する場合よりも、より優れた分離表現が得られることを示すこと。

提案手法

• ROVAEは、VAEフレームワークを拡張し、各比較がターゲット要因においてインスタンスiがjより重度であるかどうかを示す弱い監視信号として、対比較順序付き評価を統合する。
• 各比較に対して、ラベル $ t_{ij} $ の信頼性をモデル化する非負の確率変数 $ s_{ij} $ を導入し、$ s_{ij} = 0 $ であればラベルは無視される。
• 信頼性スコア $ s_{ij} $ は、$ \mathcal{L}N(\mu_w, \sigma_w^2) $ の対数正規分布事前分布を用いてモデル化され、エンドツーエンドの学習により、どの比較が信頼できるかをモデルが学習可能になる。
• モデルは再構成損失、KLダイバージェンス、および学習済みの信頼性スコア $ s_{ij} $ で重み付けされた修正された順序付き損失を同時に最適化する。
• 事後分布 $ q(s_{ij} | \mathbf{x}_i, \mathbf{x}_j) $ はアンモアタイズド推論により推定され、トレーニング中に動的ラベルフィルタリングが可能になる。
• 再パラメータライゼーショントリックを信頼性スコア $ s_{ij} $ に適用することで、微分可能なトレーニングとバックプロパゲーションが可能になる。

実験結果

リサーチクエスチョン

• RQ1 VAEベースのモデルは、ノイズの多い対比較順序付き評価のみを監視信号として用いることで、ターゲット要因の分離を効果的に達成できるか？
• RQ2 明示的なノイズラベルの指定なしに、モデルは信頼性の低い対比較を自動で同定し、低減できるか？
• RQ3 ノイズの多い比較から学習することで、ノイズの多いラベルそのものに直接学習する場合よりも、より優れた分離表現が得られるか？
• RQ4 対比較のノイズレベルが上昇するにつれて、モデルの性能はどのように変化するか？
• RQ5 臨床現場において、ROVAEは元の順序付きラベル（例：GOLD基準）よりも意味的により良い分離表現を発見できるか？

主な発見

• 3Dチャイアーズおよび3Dシェイプスデータセットにおいて、ROVAEはVOVAEおよびすべての非教師ありベースラインを上回る分離スコアを達成し、特にノイズの多い比較条件下で顕著な優位性を示した。
• COPD臨床応用において、ROVAEはEmphysema%およびGasTrap%の予測において、VOVAEおよび非教師あり手法を上回った。評価指標として $ \kappa $ および $ r^2 $ を用いた。
• ROVAEが学習した潜在的表現は、GOLD基準自体よりもEmphysema%およびGasTrap%をより正確に予測でき、病態重症度のより良い代理指標を発見したことを示している。
• ノイズレベル $ \eta = 0.4 $ の場合、42.1% の対比較が $ s_{ij} < 1 $ に割り当てられ、モデルが顕著な割合のノイズラベルを自動で無視したことが示された。
• ハイパーパramータの選択に対してモデルの性能はロバストである。特に $ \sigma_w^2 $ が適切に設定されている場合に顕著で、小さすぎる場合はノイズに過剰適合し、大きすぎる場合は有用なラベルを無視する傾向がある。
• 事後信頼性スコア $ q(s_{ij}) $ は、0付近と100以上にピークを持つ二峰性分布を示しており、モデルが信頼できる比較と信頼性の低い比較を明確に識別できることを確認した。