[論文レビュー] Adversarial Contrastive Estimation

Avishek Joey Bose, Huan Ling+1 more|arXiv (Cornell University)|May 9, 2018

Topic Modeling参考文献 37被引用数 19

ひとこと要約

この論文では、固定された負例サンプリングを条件付きで敵対的に学習された混合サンプリングに置き換えることで対照的学習を向上させるAdversarial Contrastive Estimation (ACE)を提案する。GANに類似したミニマックスゲームにおいて、生成器がより難しい負例を生成するように訓練することで、単語埋め込み、順序埋め込み、知識グラフ埋め込みのあらゆる分野で収束が早まり、性能が向上し、WN18で0.792のMRRスコアを達成し、最先端の結果をもたらした。

ABSTRACT

Learning by contrasting positive and negative samples is a general strategy adopted by many methods. Noise contrastive estimation (NCE) for word embeddings and translating embeddings for knowledge graphs are examples in NLP employing this approach. In this work, we view contrastive learning as an abstraction of all such methods and augment the negative sampler into a mixture distribution containing an adversarially learned sampler. The resulting adaptive sampler finds harder negative examples, which forces the main model to learn a better representation of the data. We evaluate our proposal on learning word embeddings, order embeddings and knowledge graph embeddings and observe both faster convergence and improved results on multiple metrics.

研究の動機と目的

• 対照的学習における固定的で非適応的な負例サンプリングの限界を解決すること。これはしばしば容易な負例を生成し、モデルの識別能力を阻害する。
• 敵対的訓練を通じて動的により難しい負例を生成することで、表現学習を向上させること。
• 収束速度と最終的な性能の両方を向上させる統一的なフレームワークとして、さまざまな対照的学習手法を統合すること。
• 敵対的負例サンプリングの有効性を、単語埋め込みや知識グラフ埋め込みを含む多様なNLPタスクで検証すること。
• 生成器のエントロピー正則化と誤った負例の取り扱いが、訓練の安定性と性能に与える影響を分析すること。

提案手法

• ACEは、固定されたノイズ対照的推定（NCE）分布と敵対的に学習された生成器分布を組み合わせた混合負例サンプリング器を導入する。
• 生成器は、入力の正例に条件づけられたGANの設定で訓練され、識別器の損失を最大化するように負例を生成する。
• 主モデルと生成器はミニマックスゲームの形で交互に訓練され、識別器は本物の正例と敵対的負例を区別するように学習する。
• 主な革新点は、生成器の出力にエントロピー正則化を適用することで、モード崩壊を防ぎ、負例サンプリングの多様性を保証することである。
• 生成器が難しい負例を生成できない場合にはNCEにフォールバックすることで、訓練の安定性を確保する。
• このフレームワークは、単語埋め込み（CBOW/スキップグラム）、順序埋め込み、知識グラフ埋め込み（TransD、DistMult、ComplEx）の3つのタスクに適用される。

実験結果

リサーチクエスチョン

• RQ1 敵対的に学習された負例サンプリングは、固定されたNCEサンプリングよりも難しい負例を生成できるか。その結果、より良い表現学習が達成できるか。
• RQ2 固定されたものと学習されたものとの混合負例サンプリングは、訓練の安定性と収束速度を向上させるか。
• RQ3 生成器にエントロピー正則化を適用することで、サンプリングされた負例の質と多様性にどのような影響を与えるか。
• RQ4 ACEは、知識グラフや単語埋め込みタスクにおけるMRRやhit@10といった下流指標の性能をどの程度向上させるか。
• RQ5 ACEは、さまざまな埋め込みアーキテクチャと学習目的に一般化可能か。

主な発見

• ACEはWN18のリンク予測ベンチマークで0.792のMRRを達成し、ベースラインのNCE TransD（0.527 MRR）を著しく上回り、COMPLEX（0.941 MRR）などの最先端モデルと同等またはそれ以上の性能を示した。
• WN18において、ACEは標準的なNCEと比較してMRRを48%以上向上させ、より難しい負例のおかげで識別力が向上したことを示している。
• 生成器がサンプリングした負例に対する識別器の損失は、NCEがサンプリングした負例よりも常に高かった。これは、生成器がより難しい例を生成していることを確認している。
• ハイパニム予測タスクでは、ACEの負例がNCEの負例よりも識別器の損失を速やかに低下させ、より高い難易度と強い学習信号を示している。
• エントロピー正則化と重み減衰の追加が、安定した訓練を可能にし、生成器のモード崩壊を防ぎ、性能を向上させる上で不可欠であった。
• ACEは、評価されたすべてのタスクで収束が早く、単語、順序、知識グラフ埋め込みの分野でMRRとhit@10の両方で一貫した改善を示した。