[论文解读] Learning and Interpreting Multi-Multi-Instance Learning Networks

Alessandro Tibo, Manfred Jaeger+1 more|VBN Forskningsportal (Aalborg Universitet)|Oct 26, 2018

Image Retrieval and Classification Techniques参考文献 79被引用 8

一句话总结

本文提出了多层多实例学习（MMIL），一种将数据建模为嵌套实例袋（例如，文档作为句子袋，句子作为词语袋）的框架，并提出了一种具有新颖袋层（bag-layer）的神经网络架构，用于在多个层次上聚合输入。该方法在文本、引用网络和社会网络数据上实现了具有竞争力的分类准确率，同时通过学习到的符号规则实现对实例和子袋聚类的可解释性预测。

ABSTRACT

We introduce an extension of the multi-instance learning problem where examples are organized as nested bags of instances (e.g., a document could be represented as a bag of sentences, which in turn are bags of words). This framework can be useful in various scenarios, such as text and image classification, but also supervised learning over graphs. As a further advantage, multi-multi instance learning enables a particular way of interpreting predictions and the decision function. Our approach is based on a special neural network layer, called bag-layer, whose units aggregate bags of inputs of arbitrary size. We prove theoretically that the associated class of functions contains all Boolean functions over sets of sets of instances and we provide empirical evidence that functions of this kind can be actually learned on semi-synthetic datasets. We finally present experiments on text classification, on citation graphs, and social graph data, which show that our model obtains competitive results with respect to accuracy when compared to other approaches such as convolutional networks on graphs, while at the same time it supports a general approach to interpret the learnt model, as well as explain individual predictions.

研究动机与目标

• 将传统的多实例学习扩展至处理嵌套的、分层的数据结构，如袋中袋结构。
• 通过恢复实例和子袋的潜在标签，实现可解释的机器学习，从而支持基于规则的预测解释。
• 开发一种可微分的神经网络层（袋层），以将卷积和池化操作推广至集合结构数据。
• 在真实世界的关系型数据（包括文本和图结构数据集）上展示MMIL的实际可行性。
• 证明模型能够学习集合的集合上的复杂布尔函数，支持表达性强的决策函数。

提出的方法

• MMIL框架将数据建模为顶层袋，其中包含子袋，每个子袋又包含实例，且仅在顶层观察到标签。
• 提出一种新颖的袋层，通过在可变大小的袋上应用权重共享和聚合操作，推广了卷积和池化操作。
• 袋层函数对袋内实例的排列保持不变，确保结构鲁棒性，并支持端到端训练。
• 通过聚类近似潜在的实例和子袋标签，随后用于提取符号规则以实现解释性。
• 网络通过反向传播进行端到端训练，特征表示通过袋间共享权重学习得到。
• 通过分析学习到的聚类分配及其与顶层标签的关系，提取符号规则。

Figure 1: A positive (left) and a negative (right) top-bag for Example 2.1 . Solid green lines represent positive (sub-) bags while dashed red lines represent negative (sub-) bags.

实验结果

研究问题

• RQ1 深度学习模型能否有效从仅在顶层提供标签的分层袋中袋数据中学习？
• RQ2 模型的内部表示能否用于重构潜在的实例和子袋标签以实现可解释性？
• RQ3 所提出的袋层是否将卷积和池化层的归纳偏置推广至集合结构数据？
• RQ4 与现有方法相比，该模型在文本和图分类任务上能否实现具有竞争力的准确率？
• RQ5 通过聚类分配推导出的符号规则能否实现对学习模型的可解释性？

主要发现

• 该模型在文本分类、引用图和社交网络数据集上实现了具有竞争力的分类准确率，与最先进的图卷积网络相当。
• 理论分析表明，袋层函数能够表示所有集合的集合上的布尔函数，表明其具有强大的表示能力。
• 在半合成数据上的实证结果证实，该模型能够学习嵌套袋结构上的复杂函数。
• 该模型通过恢复实例和子袋的潜在聚类分配实现可解释性，进而生成符号规则。
• 规则提取显示，子袋聚类v₅与飞机类别强相关，v₃₁与吉他和键盘相关，v₄与书桌相关，与直观预期一致。
• 在点云实验中出现的误分类归因于模型将一个子袋分配至v₄（书桌）聚类，而该聚类与书桌相关，为错误提供了合理的解释。

Figure 2: A bag-layer receiving a bag of cardinality $n=3$ . In this example $k=4$ and $m=5$ .