[論文レビュー] Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

Nils Reimers, Iryna Gurevych|TUbilio (Technical University of Darmstadt)|Aug 27, 2019

Topic Modeling参考文献 38被引用数 88

ひとこと要約

SBERTはシーモーズ/トリプレットアーキテクチャでBERTをファインチューニングし、固定サイズの文埋め込みを生成します。これにより、コサインベースの意味的類似性評価、クラスタリング、検索が高速化され、なおかつ高い精度を維持します。

ABSTRACT

BERT (Devlin et al., 2018) and RoBERTa (Liu et al., 2019) has set a new state-of-the-art performance on sentence-pair regression tasks like semantic textual similarity (STS). However, it requires that both sentences are fed into the network, which causes a massive computational overhead: Finding the most similar pair in a collection of 10,000 sentences requires about 50 million inference computations (~65 hours) with BERT. The construction of BERT makes it unsuitable for semantic similarity search as well as for unsupervised tasks like clustering. In this publication, we present Sentence-BERT (SBERT), a modification of the pretrained BERT network that use siamese and triplet network structures to derive semantically meaningful sentence embeddings that can be compared using cosine-similarity. This reduces the effort for finding the most similar pair from 65 hours with BERT / RoBERTa to about 5 seconds with SBERT, while maintaining the accuracy from BERT. We evaluate SBERT and SRoBERTa on common STS tasks and transfer learning tasks, where it outperforms other state-of-the-art sentence embeddings methods.

研究の動機と目的

• 大規模な文コレクションに対する効率的な意味的類似性と検索の必要性を動機づける。
• 高速な類似度検索に適した固定サイズの文埋め込みを生成するようBERTを改変する。
• SBERTがSTSおよび関連ベンチマークで現状の最先端性能を維持または向上させることを示す。
• 大規模タスクにおけるSBERTの標準BERTに対する計算上の利点を示す。

提案手法

• シーモーズおよびトリプレットネットワーク構造を用いて事前学習済みBERT/RoBERTaを文埋め込み用にファインチューニングする。
• BERT出力に対してPOOLING（MEAN、CLS、MAX）を適用して固定サイズの文ベクトルを得る（デフォルトはMEAN）。
• 分類、回帰、またはトリプレット目的関数で最適化し、意味的に意味のある埋め込みを確保する。
• 文埋め込み間のコサイン類似度を計算して意味的関連性タスクを評価する。
• SNLIとMultiNLI（NLIデータ）で訓練し、その後STSb（またはNLI + STSb）でファインチューニングして性能を向上させる。
• STSタスク、AFS、SentEvalを用いて一般化と移転を評価する。

実験結果

リサーチクエスチョン

• RQ1 SBERTはコサインベースの類似度指標に適した意味的に意味のある文埋め込みを生成できるか。
• RQ2 シーモーズ/トリプレット目的でファインチューニングしたBERTは、従来の文埋め込み手法と比較してSTSおよび関連ベンチマークで性能を向上させるか。
• RQ3 プーリング戦略と目的関数の選択は埋め込み品質と下流タスクにどう影響するか。
• RQ4 大規模な類似検索とクラスタリングにおけるSBERTとクロスエンコーダBERTの計算上の利点はどこにあるか。

主な発見

• SBERTは、TTを生む前のBERT、InferSent、Universal Sentence Encoderと比較して、いくつかのSTSデータセットでSTS相関を大幅に改善した。
• STSbでは、SBERT-NLI-baseが77.03、SBERT-NLI-largeが79.23を達成し、STSbの学習設定で最先端性能に近づくまたはそれを上回る。
• SBERTはSentEvalの転移タスクで多くのベースラインを上回り、特に感情関連タスクで顕著な向上を示す。
• AFSのクロストピック設定では、SBERTは10-fold CVでBERTに近づくが、トピック間一般化にはより大きなギャップを示し、領域特有の課題を浮き彫りにする。
• SBERT-WikiSecトリプレットの結果は、Wikipediaセクションデータで以前のBiLSTMトリプレット手法を上回った。
• SBERTは大規模な検索とクラスタリングを迅速化する顕著な計算効率向上を提供する。