[论文解读] Towards Bridging the FL Performance-Explainability Trade-Off: A Trustworthy 6G RAN Slicing Use-Case

Swastika Roy, Hatim Chergui+1 more|arXiv (Cornell University)|Jul 24, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出了一种解释引导的即兴联邦学习（FL）框架，将可解释人工智能（XAI）集成到FL训练中，以在6G无线接入网（RAN）切片中同时优化性能与可解释性。通过资源分配模型与解释器之间的闭环反馈——基于特征归因（IG、SHAP、Input×Gradient）的置信度度量——该方法在非独立同分布（non-IID）数据下，相较于即兴后（post-hoc）FL基线，实现了更高的模型可信度和更快的收敛速度。

ABSTRACT

In the context of sixth-generation (6G) networks, where diverse network slices coexist, the adoption of AI-driven zero-touch management and orchestration (MANO) becomes crucial. However, ensuring the trustworthiness of AI black-boxes in real deployments is challenging. Explainable AI (XAI) tools can play a vital role in establishing transparency among the stakeholders in the slicing ecosystem. But there is a trade-off between AI performance and explainability, posing a dilemma for trustworthy 6G network slicing because the stakeholders require both highly performing AI models for efficient resource allocation and explainable decision-making to ensure fairness, accountability, and compliance. To balance this trade off and inspired by the closed loop automation and XAI methodologies, this paper presents a novel explanation-guided in-hoc federated learning (FL) approach where a constrained resource allocation model and an explainer exchange -- in a closed loop (CL) fashion -- soft attributions of the features as well as inference predictions to achieve a transparent 6G network slicing resource management in a RAN-Edge setup under non-independent identically distributed (non-IID) datasets. In particular, we quantitatively validate the faithfulness of the explanations via the so-called attribution-based confidence metric that is included as a constraint to guide the overall training process in the run-time FL optimization task. In this respect, Integrated-Gradient (IG) as well as Input $ imes$ Gradient and SHAP are used to generate the attributions for our proposed in-hoc scheme, wherefore simulation results under different methods confirm its success in tackling the performance-explainability trade-off and its superiority over the unconstrained Integrated-Gradient post-hoc FL baseline.

研究动机与目标

• 解决在AI驱动的6G网络切片中性能与可解释性之间的权衡问题，其中高模型准确率与透明度对于实现可信的零接触管理至关重要。
• 克服即兴后XAI方法缺乏与模型训练集成的局限性，避免产生不可靠或非最优的解释。
• 在具有非独立同分布数据分布的分布式RAN-Edge环境中，实现透明、可问责且合规的AI决策。
• 引入闭环机制，使模型预测与特征归因得以迭代优化，从而同时提升性能与解释保真度。
• 通过嵌入FL优化过程中的新型基于归因的置信度度量，量化解释的忠实度。

提出的方法

• 提出一种闭环（CL）即兴FL框架，其中受限的资源分配模型与XAI解释器通过迭代交换软归因与预测结果。
• 采用代理拉格朗日双人博弈策略，通过置信度度量联合优化模型性能与解释保真度。
• 使用集成梯度（IG）、Input×Gradient与SHAP作为归因生成器，在训练过程中生成特征重要性得分。
• 将基于归因的置信度度量作为运行时FL优化中的约束，确保解释的忠实性与可靠性。
• 在具有非IID数据的RAN-Edge部署中实现即兴FL方案，模拟真实世界的6G网络切片场景。
• 评估不同XAI方法下的收敛时间与模型性能，并与无约束的即兴后FL基线进行对比。

Figure 2: in-hoc FL for transparent resource allocation.

实验结果

研究问题

• RQ1 在训练过程中集成XAI的即兴FL方法能否有效缓解6G网络切片中的性能-可解释性权衡？
• RQ2 基于特征归因的置信度度量如何影响FL中解释的保真度与可靠性？
• RQ3 不同XAI方法（IG、SHAP、Input×Gradient）对即兴FL框架中收敛速度与模型置信度有何影响？
• RQ4 在非IID数据下，所提出的即兴FL方法与即兴后FL基线相比，在训练时间与解释质量方面表现如何？
• RQ5 哪些网络参数（如CQI、OTT流量、MIMO全秩）对CPU分配预测具有最大影响，且能否通过所提方法可靠识别？

主要发现

• 采用集成梯度（IG）作为归因方法的即兴FL方法实现了最快的收敛时间——接近即兴后基线——同时保持了最高的预测置信度。
• 基于归因的置信度度量成功量化了解释的忠实度，并在FL优化过程中作为有效约束发挥作用。
• 基于SHAP的归因显示，CQI对CPU分配具有最强的正向影响，表明更好的信道质量可因减少重传与降低队列延迟而降低CPU负载。
• 每TRP的OTT流量显示出正向值集中，表明更高的流量水平与CPU负载增加相关，支持动态资源扩展。
• 在此场景中，MIMO全秩对CPU负载的影响可忽略不计，尽管其数值较小，但模型仍能检测潜在的信号退化问题。
• 即兴FL框架在收敛前的计算复杂度低于即兴后基线，同时提供更优的解释置信度与性能。

Figure 3: FL training MSE loss vs. FL rounds with $\nu=[0.82,0.83,0.85]$