[论文解读] The geometry of integration in text classification RNNs

Kyle Aitken, Vinay Ramasesh+4 more|arXiv (Cornell University)|Oct 28, 2020

Neural Networks and Applications参考文献 17被引用 4

一句话总结

该论文揭示，用于多分类文本分类的循环神经网络（RNNs）通过隐藏状态空间中的吸引子流形，实现低维、几何驱动的整合机制。这些流形的维数和形状——类别分类为单纯形，有序分类为平面，多标签分类为超立方体状——取决于数据集结构，其维数为N−1（N类分类），且可由类别相关性降低，该预测与词频统计结果一致。

ABSTRACT

Despite the widespread application of recurrent neural networks (RNNs) across a variety of tasks, a unified understanding of how RNNs solve these tasks remains elusive. In particular, it is unclear what dynamical patterns arise in trained RNNs, and how those patterns depend on the training dataset or task. This work addresses these questions in the context of a specific natural language processing task: text classification. Using tools from dynamical systems analysis, we study recurrent networks trained on a battery of both natural and synthetic text classification tasks. We find the dynamics of these trained RNNs to be both interpretable and low-dimensional. Specifically, across architectures and datasets, RNNs accumulate evidence for each class as they process the text, using a low-dimensional attractor manifold as the underlying mechanism. Moreover, the dimensionality and geometry of the attractor manifold are determined by the structure of the training dataset; in particular, we describe how simple word-count statistics computed on the training dataset can be used to predict these properties. Our observations span multiple architectures and datasets, reflecting a common mechanism RNNs employ to perform text classification. To the degree that integration of evidence towards a decision is a common computational primitive, this work lays the foundation for using dynamical systems techniques to study the inner workings of RNNs.

研究动机与目标

• 理解RNN在多分类文本分类中的动力学机制，超越二元情感分类的范畴。
• 识别在不同文本分类任务中，训练后的RNN是否以及如何涌现出低维、可解释的动力系统。
• 表征RNN隐藏状态中吸引子流形的几何结构与维数，并将其与训练数据集的统计特性关联。
• 证明简单的词频统计可预测由于类别相关性导致的吸引子流形维数降低。
• 通过构建复制自然数据中观察到的动力学行为的合成数据集，验证研究发现。

提出的方法

• 作者分析了在自然和合成数据集上训练的RNN（GRUs和LSTMs），涵盖三类分类任务：类别分类、有序分类和多标签分类。
• 识别包含隐藏状态轨迹的低维子空间，并通过网络动力学的线性化方法定位近似稳定不动点的流形。
• 通过不动点的分布推断吸引子流形的几何结构，并利用隐藏状态的主成分分析进行验证。
• 计算训练数据的词频统计，以预测吸引子流形的维数和形状，尤其针对相关类别对。
• 构建具有受控类别相关性的合成数据集，以重现观察到的动力学行为，并验证所提出的机制。
• 定义速度函数以量化吸引子流形中各点的运动缓慢程度，识别接近稳定的区域。

实验结果

研究问题

• RQ1 RNN在多分类文本分类中的动力学模式与二元情感分类中的模式有何异同？
• RQ2 在不同文本分类任务中，RNN吸引子流形的维数和几何结构由什么决定？
• RQ3 在多大程度上，可基于训练数据集的简单统计量预测吸引子流形的几何结构与维数？
• RQ4 数据集中类别相关性如何影响整合流形的形状与维数？
• RQ5 能否设计出合成数据集，以重现自然数据集中的相同动力学行为，从而确认其底层机制？

主要发现

• 对于N类类别分类，RNN形成(N−1)维的单纯形吸引子流形，其维数反映了网络保留的标量证据数量。
• 在有序分类任务中，吸引子流形呈现平面几何结构，与类别的序数结构一致。
• 对于多标签分类，吸引子流形呈现类似超立方体的几何结构，反映了类别的独立标注特性。
• 类别相关性——尤其是不同类别间词证据的负相关性——会降低吸引子流形的有效维数，且该降低程度可由词频统计预测。
• 在真实数据集中，如AG News四类数据集，吸引子流形的几何结构与基于相关性的预测一致：例如，'体育'与'商业'类别间存在强烈负相关，导致流形中出现最大排斥效应。
• 具有受控类别相关性的合成数据集能够重现自然数据集中的相同流形几何结构与动力学行为，证实了该机制的鲁棒性。