[论文解读] Orders Are Unwanted: Dynamic Deep Graph Convolutional Network for Personality Detection

Tao Yang, Jinghao Deng+2 more|arXiv (Cornell University)|Dec 3, 2022

Personality Traits and Psychology被引用 5

一句话总结

该论文提出 D-DGCN，一种动态深度图卷积网络，无需人为设定帖子顺序即可从多个社交媒体帖子中建模用户人格。通过使用可微分的“学习连接”模块，动态学习帖子之间的自适应多跳连接，并利用深层图卷积网络缓解过平滑问题，D-DGCN 在 Kaggle 和 Pandora 数据集上实现了最先进性能，优于现有的序列模型和层次模型基线。

ABSTRACT

Predicting personality traits based on online posts has emerged as an important task in many fields such as social network analysis. One of the challenges of this task is assembling information from various posts into an overall profile for each user. While many previous solutions simply concatenate the posts into a long document and then encode the document by sequential or hierarchical models, they introduce unwarranted orders for the posts, which may mislead the models. In this paper, we propose a dynamic deep graph convolutional network (D-DGCN) to overcome the above limitation. Specifically, we design a learn-to-connect approach that adopts a dynamic multi-hop structure instead of a deterministic structure, and combine it with a DGCN module to automatically learn the connections between posts. The modules of post encoder, learn-to-connect, and DGCN are jointly trained in an end-to-end manner. Experimental results on the Kaggle and Pandora datasets show the superior performance of D-DGCN to state-of-the-art baselines. Our code is available at https://github.com/djz233/D-DGCN.

研究动机与目标

• 解决序列或层次模型在人格检测中人为强加帖子顺序的局限性。
• 实现多个帖子的无序融合，形成连贯的用户人格画像。
• 在不依赖预定义图结构的前提下，学习动态的、与人格相关的帖子间连接。
• 通过解耦传播与变换操作，缓解深层 GCN 中的过平滑问题，从而提升性能。
• 通过消融实验与分析验证所提模块的有效性。

提出的方法

• 一种“学习连接”（L2C）模块使用可微分阈值函数，在有向图结构中动态建立帖子之间的多跳连接。
• 每个帖子通过预训练的 BERT 模型嵌入，表示为节点，并添加一个特殊用户节点以聚合最终表示。
• D-DGCN 模块将变换与传播操作解耦，以支持更深堆叠并减少过平滑。
• 帖子编码器、L2C 和 DGCN 联合端到端训练，以优化人格分类任务。
• 有向邻接矩阵逐层学习，实现帖子间不对称且上下文敏感的连接。
• 模型使用特殊用户节点直接输出最终人格预测，替代传统的池化操作。

实验结果

研究问题

• RQ1 动态的、可学习连接的图结构是否在人格检测中优于确定性或固定图结构？
• RQ2 与单跳或无向图相比，多跳、有向图学习机制是否能提升性能？
• RQ3 将具有解耦操作的深层 GCN 集成后，对模型性能与泛化能力有何影响？
• RQ4 与全局池化相比，特殊用户节点在聚合帖子表示方面是否更有效？
• RQ5 领域自适应的帖子微调在多大程度上提升了帖子编码器的迁移能力？

主要发现

• D-DGCN 在 Kaggle 和 Pandora 数据集上均实现了最先进性能，优于所有先前基线模型。
• D-DGCN/单跳变体的性能低于完整模型，证实了多跳连接学习的必要性。
• 有向图结构（D-DGCN）优于无向变体（D-DGCN/undirected），表明非对称连接携带了更丰富的人格信息。
• 特殊用户节点显著优于全局池化，证明其在表示聚合中的有效性。
• 领域自适应的帖子微调提升了模型性能，表明原始 BERT 缺乏足够的人格特定知识以实现有效迁移。
• 稀疏性分析显示，不同人格维度所需的信息量不同，其中 T 与 F 维度最具区分性且最稀疏。