[論文レビュー] Bringing Salary Transparency to the World: Computing Robust Compensation Insights via LinkedIn Salary

Krishnaram Kenthapadi, Stuart Ambler+2 more|arXiv (Cornell University)|Mar 29, 2017

Data Mining Algorithms and Applications参考文献 10被引用数 10

ひとこと要約

本論文では、100万人以上のLinkedInユーザーから得た匿名化された給与データを用いて、スケールに応じた給与インサイトを計算する、耐障害性の高い統計モデリングシステムを提示する。ベイジアン階層的スムージングと外れ値検出を活用することで、職務名、地域、デモグラフィック要因の各側面において、正確でプライバシーを保護する給与インサイトを提供し、特にデータが乏しい状況下でも信頼性とカバー範囲を著しく向上させる。

ABSTRACT

The recently launched LinkedIn Salary product has been designed with the goal of providing compensation insights to the world's professionals and thereby helping them optimize their earning potential. We describe the overall design and architecture of the statistical modeling system underlying this product. We focus on the unique data mining challenges while designing and implementing the system, and describe the modeling components such as Bayesian hierarchical smoothing that help to compute and present robust compensation insights to users. We report on extensive evaluation with nearly one year of de-identified compensation data collected from over one million LinkedIn users, thereby demonstrating the efficacy of the statistical models. We also highlight the lessons learned through the deployment of our system at LinkedIn.

研究の動機と目的

• 匿名化された給与データを用いて、プロフェッショナルに信頼性の高い給与インサイトを提供する、スケーラブルでプライバシー保護型のシステムを設計すること。
• 低サンプル集団における散らかった給与データの課題に、統計的スムージングと外れ値検出を用いて対処すること。
• 匿名化、集約、しきい値処理を用いて、ユーザーのプライバシーを保護しながら、製品のカバー範囲とデータ品質を確保すること。
• 100万人以上のユーザーから得た、ほぼ1年間の実世界の匿名化された給与データを用いて、モデリングパイプラインの有効性を評価すること。
• 応募者バイアスや選択バイアスといったバイアスを、高度なモデリングと推論技術を用いて同定・是正すること。

提案手法

• 低サンプル集団における給与推定において、より上位のグループ（例：広い職務カテゴリーや地域）からの情報を借りるべく、ベイジアン階層的スムージングを採用した。
• 段階的な外れ値検出パイプラインを実装：まずユーザー単位でプロファイルおよび行動特徴を用いて、次に統計的指標（例：歪度のためのメドコール）を用いてコhort単位で実施した。
• 閾値処理と集約を適用し、最小20件のエントリがあるコhortにのみヒストограмを表示することで、プライバシーと信頼性を確保した。
• 再識別を防ぐための匿名化とアクセス制御を備えた、与えることで得られるデータ収集モデルを設計し、ユーザー参加を促進した。
• データ漏洩や個人の給与データが発表されたインサイトから逆算されないよう、暗号化とアクセス制御メカニズムを用いて保護した。
• 職務名、地域、経験年数、学歴、企業規模、業界といった複数の次元にわたる給与インサイトを、統一された統計モデリングフレームワークを用いて統合した。

実験結果

リサーチクエスチョン

• RQ1 100万人以上のユーザーから得た匿名化された給与データが乏しい状況下でも、どのようにして頑健な給与インサイトを計算できるか？
• RQ2 プライバシーを損なわず、低サンプル集団における給与推定を効果的にスムージングする統計的手法は何か？
• RQ3 ユーザー単位およびコhort単位での外れ値をどのように検出し、処理することでモデルの信頼性を向上させられるか？
• RQ4 プライバシー保護型のデータ収集メカニズムは、どのようにしてスケーラブルかつ正確な給与インサイトを支援できるか？
• RQ5 ユーザーが提出した給与データにおける応募者バイアスや選択バイアスを、どのようにして定量化し是正できるか？

主な発見

• ベイジアン階層的スムージングモデルは、低サンプル集団における推定精度を著しく向上させ、個々のコhortがたとえ20人程度の規模であっても、信頼できるインサイトを提供できた。
• ユーザーおよびコhortレベルでの外れ値検出により、極端または誤った給与提出の影響が低減され、最終的なインサイトの頑健性が向上した。
• 1つのコhortあたり20件のエントリを最小要件として設定したことで、高い製品カバー範囲を達成し、データ品質と可視性のバランスを取れた。
• 100万人以上のユーザーから得たほぼ1年間の匿名化データを用いた評価により、統計モデルが一貫性があり信頼性の高い給与分布を生成できることを示した。
• 実装の過程で、プライバシー、データ品質、カバー範囲の間の主要なトレードオフが明らかになった。これにより、動的しきい値処理や改善されたスムージング戦略といった設計の見直しが行われた。
• 今後の研究では、補助的データソース（例：求人広告、転職グラフ）を活用してシステムを拡張し、逆確率加重モデルを用いて応募者バイアスを是正する可能性が示された。