[論文レビュー] Learning Robust Representations by Projecting Superficial Statistics Out

Haohan Wang, Zexue He+2 more|arXiv (Cornell University)|Mar 2, 2019

Domain Adaptation and Few-Shot Learning被引用数 93

ひとこと要約

この論文はニューロン化されたグレイレベル共起行列（NGLCM）を導入してテクスチャを捉え、HEXを用いてテクスチャ関連信号を投影除去し、ターゲットドメインデータを用いずにドメイン一般化を向上させる。

ABSTRACT

Despite impressive performance as evaluated on i.i.d. holdout data, deep neural networks depend heavily on superficial statistics of the training data and are liable to break under distribution shift. For example, subtle changes to the background or texture of an image can break a seemingly powerful classifier. Building on previous work on domain generalization, we hope to produce a classifier that will generalize to previously unseen domains, even when domain identifiers are not available during training. This setting is challenging because the model may extract many distribution-specific (superficial) signals together with distribution-agnostic (semantic) signals. To overcome this challenge, we incorporate the gray-level co-occurrence matrix (GLCM) to extract patterns that our prior knowledge suggests are superficial: they are sensitive to the texture but unable to capture the gestalt of an image. Then we introduce two techniques for improving our networks' out-of-sample performance. The first method is built on the reverse gradient method that pushes our model to learn representations from which the GLCM representation is not predictable. The second method is built on the independence introduced by projecting the model's representation onto the subspace orthogonal to GLCM representation's. We test our method on the battery of standard domain generalization data sets and, interestingly, achieve comparable or better performance as compared to other domain generalization methods that explicitly require samples from the target distribution for training.

研究の動機と目的

• unseen domains に対して一般化する分類器の学習を、テクスチャ/背景のような表面的統計への依存を減らすことで動機づける。
• 微分可能なテクスチャのみの特徴抽出器（NGLCM）と、学習時にテクスチャ情報を捨てる手法（HEX）を開発する。
• トレーニング時にターゲットドメインのサンプルを使用せず、合成データと標準的なドメイン一般化ベンチマークで有効性を示す。
• HEXと既存のDG手法を様々なデータセットで比較し、どのように比較されるかを評価する。

提案手法

• テクスチャ情報を捉えつつ意味的内容を回避する微分可能ブロックとして Neural Gray-Level Co-occurrence Matrix（NGLCM）を導入する。
• sはクリップされた微分可能な閾値関数、G = s(a; φ_a) s^T(b; φ_b) を定義し、画像ピクセルをテクスチャ表現に写像する。
• 二つのHEX戦略を提案する：(i) h(X; θ) からGLCM特徴を回復する予測子を対立的に訓練し、それを混乱させるように逆伝播させる（ADV/ADVE）、(ii) F_A を F_G の直交補空間へ射影して F_L を得る（ HEX ）。
• 生の表現 h(X; θ) とテクスチャ表現 g(X; φ) を組み合わせた二枝構造で予測を生成し、推論時には変換後の表現 F_L を使用する。
• MNIST系、合成の脅威背景ノイズ顔表情データ、MNIST回転、PACS を用いて HEX/ADV を DG ベースライン（DANN、InfoDropout など）と比較する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きターゲットドメインデータがなくても、モデルに表面的統計への依存を減らすよう促すことはできるか。
• RQ2 differentiable テクスチャベース表現（NGLCM）と射影ベースの不変性（HEX）が、ターゲットドメインサンプルを必要とする既存のDG手法と比べて、アウトオブドメイン性能を改善するか。
• RQ3 HEXとNGLCMは、PACSやMNIST-rotationを含む合成および実データのドメインシフトベンチマークでどのように性能を示すか。
• RQ4 主分類器と共にNGLCM/HEXを共同訓練する際のトレードオフと安定性の考慮事項は何か。

主な発見

• NGLCM は主にテクスチャ情報を捉え、意味的数字認識には効果的でなく、テクスチャ指向の役割を検証している。
• HEX は様々な分布シフトに対して堅牢性を向上させ、ターゲットドメインサンプルを必要とする DG 手法（例：DANN，Fusion）と比較して、複数のベンチマークで競合的または優れた性能を示すことが多い。
• MNIST-rotation の実験では、HEX は一般に強力な平均性能を示し、時には最先端のドメイン一般化手法に近づくか上回ることがある。
• PACS データセットでは HEX は Fusion 手法に近く、パラメータ数が大幅に少なく、Art および Cartoon ドメインで特に良好。
• 合成のノイズ背景タスク全体で、 ADV と HEX はドメイン相関が強まるにつれて安定的な改善を示し、HEX は対立的手法へ補完的な利点を提供する。
• 著者は、NGLCM による意味情報の不完全な除去や訓練の不安定性などの制限を議論しており、訓練ヒューリスティクスで緩和されることを示す。