[論文レビュー] OccuQuest: Mitigating Occupational Bias for Inclusive Large Language Models

Mingfeng Xue, Dayiheng Liu+6 more|arXiv (Cornell University)|Oct 25, 2023

Topic Modeling被引用数 4

ひとこと要約

この論文では、1,013の職業にまたがる26のカテゴリにわたり、148,772組のプロンプト・コンプリートペアと31,811件の対話を持つ大規模な指令微調整データセットであるOccuQuestを紹介している。このデータセットは、大規模言語モデル（LLM）における職業的バイアスを軽減することを目的としている。著者らは、GPT-3.5-turboを用いて階層的構造（職業 → 責務 → トピック → 問い）に従って職業固有の質問と回答を生成し、LLaMAをOccuLLaMAに微調整した。その結果、実世界の職業関連の質問に対してWizardLMを86.4％の勝率で上回り、GSM8Kにおいて他の7Bバージョンと比較して4ポイント以上高い性能を発揮した。

ABSTRACT

The emergence of large language models (LLMs) has revolutionized natural language processing tasks. However, existing instruction-tuning datasets suffer from occupational bias: the majority of data relates to only a few occupations, which hampers the instruction-tuned LLMs to generate helpful responses to professional queries from practitioners in specific fields. To mitigate this issue and promote occupation-inclusive LLMs, we create an instruction-tuning dataset named \emph{OccuQuest}, which contains 110,000+ prompt-completion pairs and 30,000+ dialogues covering over 1,000 occupations in 26 occupational categories. We systematically request ChatGPT, organizing queries hierarchically based on Occupation, Responsibility, Topic, and Question, to ensure a comprehensive coverage of occupational specialty inquiries. By comparing with three commonly used datasets (Dolly, ShareGPT, and WizardLM), we observe that OccuQuest exhibits a more balanced distribution across occupations. Furthermore, we assemble three test sets for comprehensive evaluation, an occu-test set covering 25 occupational categories, an estate set focusing on real estate, and an occu-quora set containing real-world questions from Quora. We then fine-tune LLaMA on OccuQuest to obtain OccuLLaMA, which significantly outperforms state-of-the-art LLaMA variants (Vicuna, Tulu, and WizardLM) on professional questions in GPT-4 and human evaluations. Notably, on the occu-quora set, OccuLLaMA reaches a high win rate of 86.4\% against WizardLM.

研究の動機と目的

• 指令微調整データセットにおける職業的バイアスを是正すること。現行のデータセットはAI/テック分野に偏っており、非技術分野の実務家が十分に反映されていない。
• 26のカテゴリにまたがり1,000以上の職業をカバーする包括的で職業に配慮した指令微調整データセットを構築すること。
• 職業固有の質問に対して、既存のSOTAモデルよりも顕著に優れた性能を示す微調整済みLLaMAモデル（OccuLLaMA）を開発・評価すること。
• OccuQuestを他のデータセットと組み合わせることで、一般および専門的ベンチマーク全体におけるLLMのパフォーマンスをさらに向上させることの有効性を示すこと。

提案手法

• 著者らは、Workableの求人記述リソースから26の職業カテゴリにまたがる1,013の職業タイトルと責任を収集した。
• GPT-3.5-turboを用いて、階層的プロンプティング戦略（職業 → 責務 → トピック → 問い）に従い、職業固有の質問と回答を生成した。
• データセットは114,090組のプロンプト・コンプリートペアと31,682件のマルチターン対話から構成され、合計145,772件のインスタンスを含む。
• 3つの評価テストセットを構築した：occu-test（25のカテゴリ）、estate（不動産）、occu-quora（実世界のQuoraの質問）。
• LLaMAをOccuQuestで微調整してOccuLLaMAを生成し、OccuQuestとTuluの混合データを用いてProLLaMAを訓練した。
• パフォーマンス評価は、GPT-4による好みスコアリングと人間による評価を通じて、専門的質問応答タスクで行った。

(a) Dolly

実験結果

リサーチクエスチョン

• RQ1 大規模かつ職業に配慮した指令微調整データセットであるOccuQuestは、既存のデータセットと比較して、LLMにおける職業的バイアスを顕著に軽減できるか？
• RQ2 OccuQuestで微調整することで、SOTAの指令微調整モデルと比較して、LLMの職業固有の質問応答パフォーマンスはどの程度向上するか？
• RQ3 OccuQuestを他の指令微調整データセットと組み合わせることで、一般および専門的ベンチマーク全体におけるLLMのパフォーマンスはどの程度向上するか？

主な発見

• Dolly、ShareGPT、WizardLMと比較して、OccuQuestは職業カテゴリごとのデータ分布が著しくバランスが取れている。後者では『ITおよび開発』分野が15％以上を占める一方、OccuQuestでは各カテゴリが2–6％程度に抑えられている。
• occu-quoraテストセットにおいて、OccuLLaMAはWizardLMを86.4％の勝率で上回り、実世界の専門的質問に対して優れたパフォーマンスを示している。
• 7Bおよび13BのProLLaMAモデルは、MMLUおよびGSM8Kで最高のパフォーマンスを達成しており、7BのProLLaMAは他の7Bバージョンと比較してGSM8Kで4ポイント以上高いスコアを記録した。
• OccuQuestでのみ微調整を行うことで、専門的質問のパフォーマンスが向上する一方、Tuluと組み合わせることで、MMLU、GSM8K、BBH、HumanEvalといった一般ベンチマークでもさらにパフォーマンスが向上した。
• OccuQuestの平均応答長は351.0トークンで、対話の平均は6.4ターンにのぼり、豊富でマルチターンの専門的対話が含まれていることが示された。
• データセットはHugging Faceで公開されており、OccuQuest、OccuLLaMA-7B、ProLLaMA-7Bを含む。これにより、研究およびモデル開発が広く促進される。

(b) ShareGPT