[论文解读] JUMPER: Learning When to Make Classification Decisions in Reading

Xianggen Liu, Lili Mou+3 more|arXiv (Cornell University)|Jul 6, 2018

Topic Modeling参考文献 7被引用 5

一句话总结

Jumper 提出了一种基于强化学习的神经网络，将文本分类建模为一个顺序决策过程，其中模型根据累积的证据自主决定何时进行预测。该方法在保持最先进或相当的准确率的同时，将文本阅读量减少了30–40%，并能自动识别关键推理依据，而无需对跳跃位置进行显式监督。

ABSTRACT

In early years, text classification is typically accomplished by feature-based machine learning models; recently, deep neural networks, as a powerful learning machine, make it possible to work with raw input as the text stands. However, exiting end-to-end neural networks lack explicit interpretation of the prediction. In this paper, we propose a novel framework, JUMPER, inspired by the cognitive process of text reading, that models text classification as a sequential decision process. Basically, JUMPER is a neural system that scans a piece of text sequentially and makes classification decisions at the time it wishes. Both the classification result and when to make the classification are part of the decision process, which is controlled by a policy network and trained with reinforcement learning. Experimental results show that a properly trained JUMPER has the following properties: (1) It can make decisions whenever the evidence is enough, therefore reducing total text reading by 30-40% and often finding the key rationale of prediction. (2) It achieves classification accuracy better than or comparable to state-of-the-art models in several benchmark and industrial datasets.

研究动机与目标

• 将文本分类建模为受人类阅读认知启发的顺序决策过程。
• 使神经网络能够自主决定何时进行预测，而非对整个文本进行均匀处理。
• 通过识别显著推理依据来提升模型可解释性，且无需标注跳跃位置。
• 通过最小化不必要的文本阅读来减少推理时间，同时保持或提升分类准确率。
• 探索符号化决策输出在多任务学习中作为共享知识的实用性。

提出的方法

• Jumper 以句子为单位处理文本，使用策略网络在每一步决定是否‘跳跃’并为给定的分类槽做出最终预测。
• 模型通过强化学习进行训练，采用单次跳跃约束，即每次预测为最终结果，不可修改。
• 奖励信号基于最终分类准确率，鼓励模型在及时性和正确性之间取得平衡。
• 策略网络使用循环结构（如 Bi-GRU 或 CNN）对序列输入进行编码，并在每一步输出决策动作。
• 在多任务学习中引入决策共享机制，将部分预测作为符号化知识反馈，以提升下游分类槽的预测性能。
• 模型在基准数据集（AG、MR）和新收集的工业级 OI 数据集上进行评估，指标包括跳跃准确率（JA）、整体准确率（OA）和分类准确率（CA）。

实验结果

研究问题

• RQ1 神经网络能否在未对跳跃位置进行显式监督的情况下，学习在文本阅读过程中于最佳时机做出分类决策？
• RQ2 单次跳跃约束是否提升了模型识别文本中关键推理依据的能力？
• RQ3 模型能否在保持或提升分类准确率的同时，将总文本阅读量减少30–40%？
• RQ4 一个分类槽的符号化决策能否通过决策共享机制提升其他相关分类槽的性能？
• RQ5 在准确率和可解释性方面，模型性能与强基线相比如何？

主要发现

• 与完整序列模型相比，Jumper 将文本阅读量减少了30–40%，显著加速了推理过程。
• 模型的分类准确率与强基线（如 Bi-GRU、CNN 和 Hierarchical CNN-GRU）相当或更优。
• 在 OI 数据集上，Jumper 的跳跃准确率（JA）达到 85.6%，整体准确率（OA）达到 82.1%，在推理依据定位任务上比次优方法高出 3–6%。
• 在多任务学习中，决策共享机制提升了模型性能，测试集上的 F1 分数和准确率分别提升了 0.28 个百分点。
• 模型在真实案例中成功识别出关键推理依据，如 'trade commissioner' 和 'tiresome'，展示了无需标注推理依据信号的可解释性。
• 分层 CNN-GRU 基线在强制每步都预测时最终准确率下降，表明分布式表示在无关输入下可能退化——凸显了 Jumper 在保持知识完整性方面的优势。