[論文レビュー] conSultantBERT: Fine-tuned Siamese Sentence-BERT for Matching Jobs and Job Seekers

Dor Lavi, Volodymyr Medentsiy+1 more|arXiv (Cornell University)|Sep 14, 2021

Topic Modeling被引用数 12

ひとこと要約

本論文では、多言語の履歴書および求人要項のテキストを用いて、求職者と求人をマッチングするための、微調整されたシアンプル・センテンス・BERTモデル、conSultantBERTを提案する。27万件の専門家ラベル付き履歴書-求人ペアを活用することで、TF-IDFおよびBERTベースラインを上回る優れた性能を達成し、特にコサイン類似度の回帰による最適化が施された場合、多言語およびクロスリンガルマッチング能力が顕著に向上することが示された。

ABSTRACT

In this paper we focus on constructing useful embeddings of textual information in vacancies and resumes, which we aim to incorporate as features into job to job seeker matching models alongside other features. We explain our task where noisy data from parsed resumes, heterogeneous nature of the different sources of data, and crosslinguality and multilinguality present domain-specific challenges. We address these challenges by fine-tuning a Siamese Sentence-BERT (SBERT) model, which we call conSultantBERT, using a large-scale, real-world, and high quality dataset of over 270,000 resume-vacancy pairs labeled by our staffing consultants. We show how our fine-tuned model significantly outperforms unsupervised and supervised baselines that rely on TF-IDF-weighted feature vectors and BERT embeddings. In addition, we find our model successfully matches cross-lingual and multilingual textual content.

研究の動機と目的

• ノイズが多く、多様な履歴書および求人テキストデータを処理できるスケーラブルな多言語ジョブマッチングシステムの開発。
• 語彙的重複がなくても意味的類似性を捉えることができる、履歴書および求人要項の高品質なテキスト埋め込みの作成。
• 例えば英語とオランダ語のような異なる言語の履歴書と求人投稿の間で、効果的なクロスリンガルマッチングを可能にする。
• TF-IDFおよび標準的なBERT埋め込みを用いた非教師ありおよび教師ありベースラインを上回るマッチングパフォーマンスの向上。
• 回帰ベースの微調整によるSBERT最適化が、下流のレコメンデーションシステムにおいて分類ベース最適化よりも有用な埋め込みを生成するかどうかの評価。

提案手法

• 両方の履歴書および求人要項を密度型文埋め込みに変換するため、シアンプル構造を用いて多言語BERTモデルを微調整する。
• ラベル付き履歴書-求人ペアを用いて、コサイン類似度の損失関数と回帰目的でモデルを最適化する。
• バイエンコーダー構造を採用し、各入力（履歴書または求人）を独立して埋め込み、その後コサイン類似度で比較する。
• ランスタッド社の採用履歴から得た27万件の実世界の専門家ラベル付き履歴書-求人ペアのスケールの大きなデータセットを活用する。
• マージンベースの損失を用いて対照的学習を実施し、マッチングペアでは類似度を高く、マッチングしないペアでは類似度を低くするように促進する。
• 分類および回帰の両方の目的を用いてモデルパフォーマンスを評価し、下流のランダムフォレスト分類による埋め込み品質の比較を行う。

実験結果

リサーチクエスチョン

• RQ1 微調整されたシアンプル・センテンス・BERTモデルは、TF-IDFおよび標準的なBERT埋め込みを上回って、求職者と求人をマッチングする性能を発揮できるか？
• RQ2 コサイン類似度の回帰ベース最適化は、分類ベース最適化よりも、ジョブマッチングに適したテキスト埋め込みを生成できるか？
• RQ3 モデルは、例えば英語の履歴書とオランダ語の求人要項のような、異なる言語の履歴書と求人要項の間で、効果的にクロスリンガルマッチングを実行できるか？
• RQ4 モデルは、同じ言語ペア（例：英語-英語、オランダ語-オランダ語）および異言語ペアを含む、多言語および異言語設定において、どれほど一般化できるか？
• RQ5 学習された埋め込みは、下流の分類タスクにおいて、どれほど判別的な情報を保持しているか？

主な発見

• 回帰最適化が施されたconSultantBERTモデルは、TF-IDFおよび教師ありBERTベースラインを著しく上回るマッチングパフォーマンスを達成した。
• 分類最適化バージョンと比較して、回帰最適化モデルはマッチングペアとマッチングしないペアの間で、より分離可能なコサイン類似度スコアを生成した。
• モデルは言語間の語彙的ギャップを効果的に埋めることができ、例えば英語の履歴書とオランダ語の求人要項の間でも高い類似度スコアを達成した。
• 多言語データで学習しても、同じ言語ペア（例：英語-英語、オランダ語-オランダ語）においても、依然として高いパフォーマンスを維持しており、多言語処理能力を示した。
• conSultantBERT埋め込みを用いて訓練されたランダムフォレスト分類器は高い精度を達成しており、埋め込みが判別的な意味的情報を保持していることを確認した。
• 求職者の言語が求人要件に該当しない限り、言語によるバイアスのリスクを低減し、公平なマッチングを可能にする。