[論文レビュー] Multitask Learning for Emotion and Personality Detection

Yang Li, Amirmohammad Kazameini+2 more|arXiv (Cornell University)|Jan 7, 2021

Personality Traits and PsychologyPsychology参考文献 52被引用数 19

ひとこと要約

本稿では、共有表現を活用して人格特性（OCEAN）と感情を同時に予測する、新しいCNNベースのマルチタスク学習フレームワークSoGMTLを提案する。情報共有ゲート（SoG）とMAMLに類似した最適化戦略を導入し、複数のベンチマークデータセットにおいて、人格認識および感情認識の両タスクで最先端の性能を達成した。大規模言語モデルに基づくアプローチでさえも上回った。

ABSTRACT

In recent years, deep learning-based automated personality trait detection has received a lot of attention, especially now, due to the massive digital footprints of an individual. Moreover, many researchers have demonstrated that there is a strong link between personality traits and emotions. In this paper, we build on the known correlation between personality traits and emotional behaviors, and propose a novel multitask learning framework, SoGMTL that simultaneously predicts both of them. We also empirically evaluate and discuss different information-sharing mechanisms between the two tasks. To ensure the high quality of the learning process, we adopt a MAML-like framework for model optimization. Our more computationally efficient CNN-based multitask model achieves the state-of-the-art performance across multiple famous personality and emotion datasets, even outperforming Language Model based models.

研究の動機と目的

• 人格と感情認識のマルチタスク学習におけるギャップを埋めるために、両タスクを統合的にモデル化すること。
• 人格特性の検出と感情の検出の間で効果的な情報共有メカニズムを探索・検証すること。
• 複数のデータソースを対象としたマルチタスク学習において、MAMLに類似した最適化戦略により、モデルの汎化性能と効率を向上させること。
• 人格と感情のタスク間で共有される表現が、両方の下流タスクの性能向上に寄与することを示すこと。

提案手法

• 人格と感情の両方の予測を統合的に行うために、共有CNNバックボーンを用いたマルチタスク学習フレームワークSoGMTLを提案する。
• 異なるネットワークレイヤーでタスク間の特徴量の流れを動的に制御する、新規の情報共有ゲートであるSoG（選択的出力ゲーティング）を導入する。
• 複数のデータソースにわたるモデルの汎化性能を向上させるために、MAMLに類似したメタラーニング最適化戦略を採用する。
• 消去法と比較分析を通じて、4つの情報共有メカニズム（SiG、SiLG、CAG、SoG）を評価する。
• 人格特性（OCEAN）にはマルチラベル分類ヘッドを、感情にはマルチクラス分類ヘッドを採用し、それぞれシグモイド関数とソフトマックス関数を活性化関数として使用する。
• SoGゲートの配置最適化を特定するため、畳み込み層、プーリング層、全結合層におけるアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 SiG、SiLG、CAG、SoGのうち、どの情報共有メカニズムがマルチタスク人格・感情認識で最高のパフォーマンスを発揮するか？
• RQ2 SoGゲートを畳み込み層、プーリング層、全結合層のどのレイヤーに配置するかが、モデル性能および情報フローに与える影響は何か？
• RQ3 MAMLに類似した最適化戦略は、複数のデータソースを対象としたマルチタスク学習において、モデルの汎化性能とパフォーマンスを向上させられるか？
• RQ4 人格と感情のタスクを同時に学習することで、単一タスクベースラインと比較して性能が向上するか？

主な発見

• SoGMTLは、複数の人格および感情認識データセットで最先端の性能を達成し、単一タスクモデルや大規模言語モデルベースのアプローチを上回った。
• SoGゲート機構は、SiG、SiLG、CAGと比較して顕著にパフォーマンスを向上させ、特に畳み込み層に配置した場合が最良の結果を示した。
• アブレーションスタディの結果、畳み込み層がSoGの配置に最も効果的であることが確認された。F1スコア（72.03％）が最も高く、最適な情報共有構成とのコサイン類似度（0.32）も最高を記録した。
• MAMLに類似した最適化戦略は、特に複数のデータソースで学習する際、モデルの汎化性能を向上させた。
• ケーススタディでは、SoGMTLが明確で信頼性の高い予測を出力し、多値ラベル人格タスクおよび多クラス感情タスクの両方において、堅牢な意思決定境界を持つことが示された。
• モデルは計算効率に優れており、SoGは競争力のある推論速度を示しており、実世界の導入に適している。