[论文解读] Explainable Artificial Intelligence (XAI) for 6G: Improving Trust between Human and Machine

Weisi Guo|arXiv (Cornell University)|Nov 11, 2019

Adversarial Robustness in Machine Learning参考文献 15被引用 10

一句话总结

本文提出了一套全面的框架，将可解释人工智能（XAI）集成到6G无线网络中，以增强在人工智能驱动决策中的信任度，特别是在关键任务应用中。该框架结合了模型蒸馏、剪枝和神经符号学习等技术方法，并采用双解释系统——为用户提供直观的解释，为工程师提供定量洞察——同时应对对抗性攻击和认知偏见等挑战。

ABSTRACT

As the 5th Generation (5G) mobile networks are bringing about global societal benefits, the design phase for the 6th Generation (6G) has started. 6G will need to enable greater levels of autonomy, improve human machine interfacing, and achieve deep connectivity in more diverse environments. The need for increased explainability to enable trust is critical for 6G as it manages a wide range of mission critical services (e.g. autonomous driving) to safety critical tasks (e.g. remote surgery). As we migrate from traditional model-based optimisation to deep learning, the trust we have in our optimisation modules decrease. This loss of trust means we cannot understand the impact of: 1) poor/bias/malicious data, and 2) neural network design on decisions; nor can we explain to the engineer or the public the network's actions. In this review, we outline the core concepts of Explainable Artificial Intelligence (XAI) for 6G, including: public and legal motivations, definitions of explainability, performance vs. explainability trade-offs, methods to improve explainability, and frameworks to incorporate XAI into future wireless systems. Our review is grounded in cases studies for both PHY and MAC layer optimisation, and provide the community with an important research area to embark upon.

研究动机与目标

• 解决基于深度学习的6G网络优化在物理层和媒体访问控制层中缺乏透明度和信任的问题。
• 回应公众和法律对可解释人工智能日益增长的需求，包括《通用数据保护条例》（GDPR）和美国监管要求。
• 开发一种双解释框架，为终端用户（例如通过应用程序或脑机接口）提供定制化解释，为网络工程师（例如通过特征重要性分析）提供定制化解释。
• 减轻人工智能驱动的无线资源管理中数据偏差、模型不确定性及对抗性攻击带来的风险。
• 通过基于物理层和媒体访问控制层实际案例研究，为6G中的XAI奠定基础，提出一个全面的集成框架。

提出的方法

• 提出一种多层级XAI框架，在6G网络中实现系统级、模型级和接口级的可解释性集成。
• 应用模型压缩技术——剪枝、量化和网络架构重构——在不牺牲性能的前提下提升模型可解释性。
• 使用局部代理模型（如LIME或线性近似）以关键输入特征为基准，解释复杂深度神经网络（DNN）的决策。
• 提出“XAI孪生体”（XAI Twin）概念——一种并行的、可解释的人工智能系统，可实时镜像主深度学习模型的行为以实现解释。
• 利用神经符号概念学习（NS-CL）将神经网络决策转化为人类可读的特征与推理语言描述。
• 在解释设计中整合用户心理状态和认知偏见的反馈，以提升在用户和工程师角色中的共情与理解能力。

实验结果

研究问题

• RQ1 如何系统性地将可解释人工智能集成到6G无线网络中，以增强对自主决策的信任？
• RQ2 在6G物理层和媒体访问控制层优化中，深度学习与深度强化学习的关键性能-可解释性权衡是什么？
• RQ3 XAI框架如何应对法律与社会对算法透明度的需求，例如GDPR和美国《平等信用机会法》中的要求？
• RQ4 认知偏见和心理状态在AI解释的解读中起什么作用？系统如何适应这些因素？
• RQ5 在安全关键的6G应用中，如何防御利用模型不透明性的对抗性攻击？

主要发现

• 由于自动驾驶和远程手术等关键任务服务中AI部署日益增加，XAI对6G至关重要，其中信任与问责是核心要求。
• 当前6G中的深度学习模型本质上是不透明的，难以追踪数据偏差、低质量输入或有缺陷的网络设计如何影响决策。
• 剪枝和量化等模型压缩技术不仅减小了模型规模，还通过突出显著特征并降低复杂度，增强了可解释性。
• 所提出的XAI Twin框架在不牺牲可解释性的前提下实现了高性能AI，提供了一个并行的、可解释的模型，可镜像主网络的行为。
• 神经符号概念学习（NS-CL）能够将复杂的神经网络决策转化为自然语言解释，从而提升人类的理解力与信任度。
• 利用目标噪声的对抗性攻击可严重扰乱训练良好的深度学习模型，凸显了在6G系统中迫切需要构建稳健的XAI防御机制。