[论文解读] Process Knowledge-infused Learning for Suicidality Assessment on Social Media

Kaushik Roy, Manas Gaur+2 more|arXiv (Cornell University)|Apr 26, 2022

Explainable Artificial Intelligence (XAI)被引用 5

一句话总结

本文提出了流程知识融合学习（PK-iL），一种新颖的AI范式，通过在模型训练过程中显式整合临床指南（如哥伦比亚自杀严重程度评分量表，CSSRS）来提升社交媒体上的自杀倾向评估能力。通过利用结构化的流程知识并优化人类可理解的解释，PK-iL在解释质量上实现了0.72的高评分者间一致性（inter-annotator agreement），在性能上与最先进（SOTA）基线方法相当，同时提供了比传统可解释AI（XAI）方法更具可解释性、更符合流程的解释。

ABSTRACT

Improving the performance and natural language explanations of deep learning algorithms is a priority for adoption by humans in the real world. In several domains, such as healthcare, such technology has significant potential to reduce the burden on humans by providing quality assistance at scale. However, current methods rely on the traditional pipeline of predicting labels from data, thus completely ignoring the process and guidelines used to obtain the labels. Furthermore, post hoc explanations on the data to label prediction using explainable AI (XAI) models, while satisfactory to computer scientists, leave much to be desired to the end-users due to lacking explanations of the process in terms of human-understandable concepts. We extit{introduce}, extit{formalize}, and extit{develop} a novel Artificial Intelligence (A) paradigm -- Process Knowledge-infused Learning (PK-iL). PK-iL utilizes a structured process knowledge that explicitly explains the underlying prediction process that makes sense to end-users. The qualitative human evaluation confirms through a annotator agreement of 0.72, that humans are understand explanations for the predictions. PK-iL also performs competitively with the state-of-the-art (SOTA) baselines.

研究动机与目标

• 解决现有可解释AI（XAI）方法在心理健康应用中缺乏人类可理解、流程对齐解释的问题。
• 形式化并开发一种新的AI范式——流程知识融合学习（PK-iL），显式地将临床指南融入模型学习过程。
• 构建一个基于CSSRS框架、同时标注标签与流程知识（PK）的全新数据集，用于自杀倾向评估。
• 通过将模型的相似性空间与人类标注者对标注流程的理解对齐，提升模型的可解释性。
• 使最终用户（如临床医生）能够通过反映现实世界临床决策过程的解释，信任并验证模型预测。

提出的方法

• 作者将流程知识（PK）定义为结构化、人类可读的指南（如CSSRS），用于形式化标注自杀倾向时所用的推理步骤。
• 构建了一个新数据集，其中每个社交媒体帖子均被标注了最终标签以及标注者使用的基于PK的逐步推理路径。
• PK-iL采用全局最优的优化目标，促使模型在预测过程中恢复并遵循PK路径。
• 该方法整合预训练的大语言模型（LLMs）作为代理，评估每个步骤中单个文本片段是否满足PK标准，从而实现细粒度的流程对齐。
• 解释以PK步骤序列的形式生成（例如：'希望死亡：是 → 无特定主动自杀想法：是'），提供可追溯、人类可读的论证依据。
• 模型使用相似性函数（如高斯核）识别满足每个PK条件的文本片段，并基于评分者间的一致性进行高亮显示。

实验结果

研究问题

• RQ1 将结构化的临床流程知识整合到模型训练中，是否能提升自杀倾向检测系统的可解释性与人类信任度？
• RQ2 与传统XAI方法（如LIME或SHAP）相比，PK-iL的解释质量在人类可理解性与与临床指南的对齐程度方面表现如何？
• RQ3 PK-iL在多大程度上能够利用SOTA语言模型来模拟人类标注者在PK每个步骤中对文本片段的理解？
• RQ4 PK-iL是否在性能上可与SOTA基线方法媲美，同时提供更具意义、更符合流程的解释？
• RQ5 PK-iL是否能识别出现有临床量表（如CSSRS）存在模糊或不足的情况，从而为临床指南的优化提供指导？

主要发现

• PK-iL在解释质量上实现了0.72的评分者间一致性，表明模型论证与人类高度一致且易于理解。
• 模型的预测与真实标签保持一致，在理想情况下，PK-iL的性能可与人类标注者相当。
• 与基于嵌入的传统解释方法（如Word2vec + 逻辑回归）相比，PK-iL在提供临床有意义的解释方面表现更优，后者常会突出显示统计上频繁但语境无关的短语。
• 该方法成功识别并高亮了满足每个PK条件的文本片段，如'希望死亡'或'拥有枪支'，其解释可追溯至CSSRS的特定步骤。
• PK-iL展示了识别临床指南在评分者间一致性较低的输入区域的能力，提示其在优化现有量表方面具有潜力。
• 在嘈杂或长篇的社交媒体帖子中，PK-iL与基于嵌入的模型表现均欠佳，表明未来需加强模型对数据质量问题的鲁棒性。