[论文解读] Advancing Explainable AI Toward Human-Like Intelligence: Forging the Path to Artificial Brain

Yongchen Zhou, Richard Jiang|arXiv (Cornell University)|Feb 7, 2024

Explainable Artificial Intelligence (XAI)被引用 4

一句话总结

本文通过融合神经科学、认知科学与伦理学，推动可解释人工智能（XAI）的发展，旨在人工智能系统中构建类人智能（HLI）。提出了一种多学科框架，通过基于特征与像素级别的解释方法提升模型可解释性，致力于实现透明、负责任且与人类认知对齐的、具备情感智能与意识启发设计的人工智能。

ABSTRACT

The intersection of Artificial Intelligence (AI) and neuroscience in Explainable AI (XAI) is pivotal for enhancing transparency and interpretability in complex decision-making processes. This paper explores the evolution of XAI methodologies, ranging from feature-based to human-centric approaches, and delves into their applications in diverse domains, including healthcare and finance. The challenges in achieving explainability in generative models, ensuring responsible AI practices, and addressing ethical implications are discussed. The paper further investigates the potential convergence of XAI with cognitive sciences, the development of emotionally intelligent AI, and the quest for Human-Like Intelligence (HLI) in AI systems. As AI progresses towards Artificial General Intelligence (AGI), considerations of consciousness, ethics, and societal impact become paramount. The ongoing pursuit of deciphering the mysteries of the brain with AI and the quest for HLI represent transformative endeavors, bridging technical advancements with multidisciplinary explorations of human cognition.

研究动机与目标

• 将可解释人工智能（XAI）与神经科学及认知科学相结合，以在人工智能系统中实现类人推理。
• 解决当前XAI方法在解释决策‘如何’与‘为何’做出方面的局限性，特别是在复杂、非可加性模型中的表现。
• 通过将伦理考量、责任机制与社会影响融入透明人工智能系统的设计，推动负责任的人工智能发展。
• 通过跨学科融合，探索类人智能（HLI）的发展，包括情感智能与自我意识。
• 将人工智能定位为破译人类大脑奥秘的工具，推动认知科学与神经健康医疗的突破。

提出的方法

• 采用基于特征的XAI技术，如SHAP、CAM、Grad-CAM与GAMs，提供模型决策的局部与全局可解释性。
• 利用像素级解释方法，如逐层显著性传播（LRP）与反卷积网络（DeconvNet），将特征贡献追溯至输入像素。
• 整合认知科学与人机交互（HCI）原则，设计符合人类推理过程的以用户为中心的XAI系统。
• 提出人工智能发展与神经科学之间的反馈回路，即神经网络设计的进展可反哺脑科学研究，反之亦然。
• 利用深度学习架构（如VGG-16、ResNet-50、SpinalNet）与可解释模型（如决策树、随机森林）进行准确率与可解释性的对比分析。
• 倡导使用神经-人工智能接口与脑机接口，实现基于思维的控制，并深化对神经机制的理解。

Figure 1: The cycle of learning. As neural networks evolve by mimicking the brain, they offer insights that, in turn, illuminate our understanding of cerebral processes.

实验结果

研究问题

• RQ1 如何增强XAI方法，使其不仅能解释‘何处’，还能解释‘为何’与‘如何’做出AI决策，特别是在复杂生成模型中？
• RQ2 神经科学与认知科学的融合在多大程度上可提升人工智能系统的可解释性与类人特征？
• RQ3 在设计具备自我意识与情感智能的人工智能系统时，会面临哪些伦理与哲学挑战？
• RQ4 人工智能如何助力破译人类大脑的机制，特别是在记忆、学习与意识方面？
• RQ5 神经-人工智能接口在推动人工智能可解释性与深化人类认知理解方面发挥何种作用？

主要发现

• SpinalNet在保持高可解释性的同时达到97.32%的准确率，证明高性能模型可兼具高准确率与可解释性。
• 基于特征的方法（如SHAP与Grad-CAM++）能提供一致且局部化的模型决策解释，但在解释非可加性或复杂推理方面仍显不足。
• 像素级方法（如LRP与DeconvNet）可成功将决策贡献追溯至单个输入像素，支持对模型行为的回溯分析。
• 将XAI与认知科学相结合，可实现更自然、更具同理心的人工智能交互，尤其在心理健康与客户服务等应用中表现突出。
• 神经-人工智能的融合为理解脑机制（包括记忆形成与神经通信模式）提供了新洞见，对阿尔茨海默病等疾病的治疗具有重要意义。
• 类人智能（HLI）的追求不仅需要技术创新，还需深入参与哲学、伦理学与心理学，以确保人工智能发展的负责任与有意义。

Figure 2: The inscrutability of generative models. Generative models, similar to black boxes, conceal the intricate processes behind their creative outputs, making their internal workings enigmatic and challenging for humans to decipher.