[論文レビュー] CharacterGLM: Customizing Chinese Conversational AI Characters with Large Language Models

Jinfeng Zhou, Zhuang Chen+15 more|arXiv (Cornell University)|Nov 28, 2023

Topic Modeling被引用数 4

ひとこと要約

CharacterGLMは、ChatGLMを基盤として、6B〜66Bパラメータの中国語会話AIモデルのファミリを提供し、キャラクターアトリビュートと行動を設定することでカスタマイズ可能で、キャラクター主導の対話を可能にする。GPT-3.5と比較して、特に長期間にわたる会話において一貫性、人間らしさ、関与度の面で優れている。6Bバージョンとトレーニングデータをコミュニティ利用可能にリリースしている。

ABSTRACT

In this paper, we present CharacterGLM, a series of models built upon ChatGLM, with model sizes ranging from 6B to 66B parameters. Our CharacterGLM is designed for generating Character-based Dialogues (CharacterDial), which aims to equip a conversational AI system with character customization for satisfying people's inherent social desires and emotional needs. On top of CharacterGLM, we can customize various AI characters or social agents by configuring their attributes (identities, interests, viewpoints, experiences, achievements, social relationships, etc.) and behaviors (linguistic features, emotional expressions, interaction patterns, etc.). Our model outperforms most mainstream close-source large langauge models, including the GPT series, especially in terms of consistency, human-likeness, and engagement according to manual evaluations. We will release our 6B version of CharacterGLM and a subset of training data to facilitate further research development in the direction of character-based dialogue generation.

研究の動機と目的

• 社会的相互作用を目的とした既存のLLMにおける長期的一致性と感情の深さの欠如に対処する。
• アイデンティティ、関心、価値観といった属性と、言語的スタイル、感情表現といった行動を設定可能な形でAIキャラクターを細かくカスタマイズすることを可能にする。
• 個別化されたAIキャラクターとの持続的で魅力的で人間らしいマルチターン対話を支援するシステムを開発する。
• プロンプトチューニングやキャラクター主導の対話における制限を克服し、複雑で三次元的なキャラクターの個性を捉える。
• キャラクターベースの対話システム分野における研究を前進させるために、コミュニティが利用可能な6Bパラメータモデルとトレーニングデータをリリースする。

提案手法

• ChatGLMに基づく6B〜66Bパラメータの複数の大規模言語モデルを、キャラクターベース対話（CharacterDial）に適応させるため微調整する。
• アイデンティティ、関心、経験、実績、社会的関係といったキャラクター属性を符号化する構造化されたプロフィールシステムを設計する。
• 応答生成における言語的特徴、感情表現パターン、対話スタイルを通じて行動制御を統合する。
• モデルのトレーニングに使用する、プロフィールがアノテートされた多様で大規模なマルチターン対話データセットを構築する。
• 指示微調整と好み最適化技術を適用し、モデル出力を望ましいキャラクター行動とユーザー関与度に一致させる。
• 10名のアノテーターによる人間評価を実施し、CharacterGLMをGPT-3.5およびMiniMaxと比較して、一貫性、人間らしさ、関与度の観点から評価する。

Figure 1 : Examples of multi-turn character-based dialogue (CharacterDial) between characters customized by CharacterGLM and users. CharacterDial allows users to converse with personalized characters by configuring their profiles.

実験結果

リサーチクエスチョン

• RQ1 微調整されたLLMファミリは、主流の閉鎖型モデルと比較して、長期間にわたるキャラクターベース対話において優れた一貫性と関与度を達成できるか？
• RQ2 プロフィールベースのカスタマイズは、延々と続く対話において一貫性があり、独自のキャラクターの声を維持するのにどの程度効果的か？
• RQ3 設定可能な属性と行動パターンは、AI生成応答の人間らしさと感情的真正性をどの程度高めるか？
• RQ4 人間の好み調査で長めの出力を好む傾向があるにもかかわらず、短い応答を生成する場合でもモデルの性能が維持されるか？
• RQ5 公開された6Bパラメータのモデルバージョンは、今後のキャラクターベース対話分野の研究における強力なベースラインとして機能できるか？

主な発見

• CharacterGLM-66Bは、一貫性、人間らしさ、関与度の3つの評価次元すべてにおいてGPT-3.5を上回り、10名のアノテーターによる平均全体的好みで5%の優位性を示した。
• 一般的に長めの返答を好む傾向があるにもかかわらず、短い応答を生成する場合でも、モデルは高い性能を維持しており、長さの変動に対して頑健であることが示された。
• 対比較評価では、CharacterGLM-66Bは一貫性で49%、人間らしさで48%、関与度で49%の勝利を記録し、全体の好みで+5%のネット優位性を達成した。
• CharacterGLMの6Bバージョンとトレーニングデータの一部が、オープンリサーチおよびキャラクターベース対話におけるモデル微調整を支援するためにリリースされた。
• MiniMaxは平均してより長い応答を生成したが、それでもCharacterGLM-66Bは同等またはより高い好みスコアを達成しており、1トークンあたりの品質が非常に高いことが示された。
• 本研究では、長期記憶、自己認識、キャラクターソサイエティとの相互作用、認知プロセスモデリングが、今後のAIキャラクター開発における主な課題であると同定した。

(a) Pair-wise comparison results of CharacterGLM over GPT-3.5 in consistency, human-likeness, and engagement.