[论文解读] A conditional, a fuzzy and a probabilistic interpretation of self-organising maps

Laura Giordano, Valentina Gliozzi+1 more|arXiv (Cornell University)|Mar 11, 2021

Rough Sets and Fuzzy Logic参考文献 86被引用 5

一句话总结

本文通过将自组织映射（SOMs）与模糊和偏好描述逻辑联系起来，为其提供了逻辑解释，从而实现属性验证的模型检查。研究证明SOMs可被解释为模糊$δ$-解释和多偏好$δ$-解释，并进一步通过扎德的模糊事件概率推导出概率解释，实现了事后可解释性，并支持与符号知识系统的集成。

ABSTRACT

In this paper we establish a link between fuzzy and preferential semantics for description logics and Self-Organising Maps, which have been proposed as possible candidates to explain the psychological mechanisms underlying category generalisation. In particular, we show that the input/output behavior of a Self-Organising Map after training can be described by a fuzzy description logic interpretation as well as by a preferential interpretation, based on a concept-wise multipreference semantics, which takes into account preferences with respect to different concepts and has been recently proposed for ranked and for weighted defeasible description logics. Properties of the network can be proven by model checking on the fuzzy or on the preferential interpretation. Starting from the fuzzy interpretation, we also provide a probabilistic account for this neural network model.

研究动机与目标

• 为自组织映射（SOMs）建立正式的逻辑解释，以提升人工智能中的可解释性。
• 将SOMs与描述逻辑中的模糊和偏好语义联系起来，特别是针对类别泛化问题。
• 通过模型检查，验证训练后SOM中逻辑属性（例如可废止包含）的正确性。
• 将SOMs的先前偏好解释扩展至包含模糊和概率语义。
• 通过将神经网络行为映射到带权重的条件性符号知识库，支持神经符号系统集成。

提出的方法

• 本文为轻量级描述逻辑$δ$-LC定义了一种基于概念的多偏好语义，其中每个概念（类别）均根据其与类别原型的距离，关联一个偏好关系。
• 基于Gliozzi和Plunkett的基于相似性的模型，将每个SOM类别解释为输入刺激上的模糊集，通过与类别表征的相对距离分配[0,1]之间的隶属度值。
• 通过将刺激映射到模糊真值，构建模糊$δ$-LC解释，从而支持模糊包含公理的评估。
• 利用扎德的模糊事件概率理论，从模糊模型中推导出概率解释，将模糊隶属度与概率置信度关联。
• 在模糊和偏好解释上应用模型检查，以验证训练后SOM的可废止包含和逻辑属性。
• 该方法利用网络学习到的权重和拓扑结构，基于输入刺激的接近程度，定义语义解释。

实验结果

研究问题

• RQ1 训练后的自组织映射的输入/输出行为能否通过模糊描述逻辑语义实现正式解释？
• RQ2 基于概念层面偏好的多偏好语义如何用于建模SOM中的类别泛化？
• RQ3 能否利用扎德的模糊事件理论，将SOM的模糊解释扩展为概率解释？
• RQ4 在所推导的模糊或偏好解释上，通过模型检查验证SOM逻辑属性的范围有多大？
• RQ5 SOMs与可废止或模糊知识库集成在神经符号人工智能中的潜力如何？

主要发现

• 训练后SOM的行为可被正式捕捉为模糊$δ$-LC解释，其中每个类别对应于由刺激到类别距离定义的模糊集。
• SOM亦可被解释为多偏好$δ$-LC模型，其中示例之间的偏好关系由其与类别原型的相对距离定义。
• 在模糊和偏好解释上应用模型检查，可验证网络的可废止包含和逻辑属性。
• 通过扎德的模糊事件概率理论，从模糊模型中推导出SOM的概率解释，实现不确定性量化。
• 该方法支持事后解释，并实现SOM与符号推理系统的集成，推动可信且可解释的人工智能。
• 该框架通过提供统一的逻辑解释，同时支持模糊和偏好语义，扩展了先前工作，具有向其他神经网络模型扩展的潜力。