[論文レビュー] Skill2vec: Machine Learning Approach for Determining the Relevant Skills from Job Description

Van-Duyet Le, Vo Minh Quan+1 more|arXiv (Cornell University)|Jul 31, 2017

Topic Modeling参考文献 7被引用数 5

ひとこと要約

この論文では、Word2vecにインspiredされたニューラルネットワークモデルであるSkill2vecを紹介しており、求人要件のスキルを密なベクトル空間に埋め込むことで、それらのスキル間の意味的関係を捉える。専門家によるアノテーションを用いた評価により、求人要件と候補者のスキルの間でベクトルベースの類似性マッチングを可能にし、採用検索の正確性が向上した。

ABSTRACT

Unsupervise learned word embeddings have seen tremendous success in numerous Natural Language Processing (NLP) tasks in recent years. The main contribution of this paper is to develop a technique called Skill2vec, which applies machine learning techniques in recruitment to enhance the search strategy to find candidates possessing the appropriate skills. Skill2vec is a neural network architecture inspired by Word2vec, developed by Mikolov et al. in 2013. It transforms skills to new vector space, which has the characteristics of calculation and presents skills relationships. We conducted an experiment evaluation manually by a recruitment company's domain experts to demonstrate the effectiveness of our approach.

研究の動機と目的

• 求人要件の非構造的テキストから関連スキルを正確に同定する課題に対処すること。
• 分散表現を用いてスキル間の意味的関係をモデル化することで、候補者検索の効率を向上させること。
• 類似度ベースのマッチングをサポートするスケーラブルで教師なしのスキル埋め込み手法を開発すること。
• 実世界の採用文脈における専門家による評価を通じて、モデルの有効性を検証すること。
• Word2vecのような単語埋め込みの成功を、求人スキルおよび職業的能力の分野へと拡張すること。

提案手法

• Word2vecのスイップグラムアーキテクチャを変更し、求人要件テキストからスキルの密なベクトル表現を学習する。
• 各スキルをシーケンス内の「単語」として扱い、スライディングウィンドウ内で周囲のスキルを予測するようにモデルを訓練する。
• 学習効率を向上させ、計算コストを削減するためにネガティブサンプリングを用いる。
• 意味的および文法的関係を捉えるために、各スキルに対して固定サイズのベクトル表現（例：100次元）を学習する。
• 大規模な求人データに対して、トレーニング速度とスケーラビリティを向上させるために階層的ソフトマックスまたはネガティブサンプリングを適用する。
• 文脈的および関係的パターンを反映するスキル埋め込みを学習するために、大規模な求人ポストコーパス上でモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 Word2vecにインspiredされたアーキテクチャを用いて学習されたスキル埋め込みは、スキル間の意味的関係を効果的に表現できるか？
• RQ2 学習されたスキルベクトルは、求人要件から関連スキルを正確に同定するのにどの程度有効か？
• RQ3 従来のキーワードベース手法と比較して、Skill2vecは採用マッチングのパフォーマンスをどの程度向上させるか？
• RQ4 ドメイン専門家は、Skill2vecが生成するスキル推薦の質と関連性をどのように評価するか？
• RQ5 多様な職務役割や業界にわたり、意味的に意味のあるスキル関係を保持したまま一般化できるか？

主な発見

• Skill2vecは、意味的および文法的関係を捉える密なベクトル表現のスキルを効果的に学習した。
• 専門家による評価により、モデルが生成したスキル推薦が関連性があり、文脈的に適切であることが確認された。
• ベースラインのキーワードマッチング手法と比較して、関連スキルの同定において優れたパフォーマンスを示した。
• スキル埋め込み間のベクトル類似度により、語彙的に異なる場合でも意味的に関連するスキルの効果的な検索が可能になった。
• 実世界の求人要件データにおいて、スケーラブルで実用的な採用システムへの導入に適した有効なアプローチであることが示された。
• ネガティブサンプリングとスイップグラムトレーニングにより、代表表現の品質に著しい損失を伴わずに大規模データセット上で効率的な学習が可能になった。