[논문 리뷰] Towards Bridging the FL Performance-Explainability Trade-Off: A Trustworthy 6G RAN Slicing Use-Case

Swastika Roy, Hatim Chergui외 1명|arXiv (Cornell University)|2023. 07. 24.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 6G RAN 슬라이싱에서 성능과 해석 가능성(해석 가능성)을 동시에 최적화하기 위해 설명 가능 AI(XAI)를 피드포워드 학습(FL) 훈련에 통합한 설명 가이드드 인-하우(in-hoc) 연합 학습(FL) 프레임워크를 제안한다. 특성 기여도(IG, SHAP, Input×Gradient)를 기반으로 한 신뢰도 지표에 의해 유도되는 자원 배정 모델과 해설기 사이의 폐쇄형 피드백 루프를 통해, 사후(post-hoc) FL 기준선에 비해 더 높은 모델 신뢰도와 더 빠른 수렴 속도를 달성한다. 특히 비독립 동일 분포(non-IID) 데이터 환경에서 유의미한 성능 향상을 보인다.

ABSTRACT

In the context of sixth-generation (6G) networks, where diverse network slices coexist, the adoption of AI-driven zero-touch management and orchestration (MANO) becomes crucial. However, ensuring the trustworthiness of AI black-boxes in real deployments is challenging. Explainable AI (XAI) tools can play a vital role in establishing transparency among the stakeholders in the slicing ecosystem. But there is a trade-off between AI performance and explainability, posing a dilemma for trustworthy 6G network slicing because the stakeholders require both highly performing AI models for efficient resource allocation and explainable decision-making to ensure fairness, accountability, and compliance. To balance this trade off and inspired by the closed loop automation and XAI methodologies, this paper presents a novel explanation-guided in-hoc federated learning (FL) approach where a constrained resource allocation model and an explainer exchange -- in a closed loop (CL) fashion -- soft attributions of the features as well as inference predictions to achieve a transparent 6G network slicing resource management in a RAN-Edge setup under non-independent identically distributed (non-IID) datasets. In particular, we quantitatively validate the faithfulness of the explanations via the so-called attribution-based confidence metric that is included as a constraint to guide the overall training process in the run-time FL optimization task. In this respect, Integrated-Gradient (IG) as well as Input $ imes$ Gradient and SHAP are used to generate the attributions for our proposed in-hoc scheme, wherefore simulation results under different methods confirm its success in tackling the performance-explainability trade-off and its superiority over the unconstrained Integrated-Gradient post-hoc FL baseline.

연구 동기 및 목표

• 신뢰할 수 있는 자율 관리(Zero-touch management)를 위해 고정밀도 모델 정확도와 투명성을 동시에 요구하는 AI 기반 6G 네트워크 슬라이싱에서 성능-해석 가능성 간 상충 관계를 해결한다.
• 모델 훈련과 통합되지 않은 사후 XAI 방법의 한계를 극복하여 신뢰할 수 없거나 최적화되지 않은 해석을 유도하는 문제를 해결한다.
• 비독립 동일 분포(non-IID) 데이터 분포를 가진 분산형 RAN-에지 환경에서 투명하고 책임감 있고 규정 준수 가능한 AI 의사결정을 가능하게 한다.
• 모델 예측과 특성 기여도를 반복적으로 개선하는 폐쇄형 피드백 메커니즘을 도입하여 성능과 해석 충실도를 동시에 향상시킨다.
• FL 최적화 과정에 통합된 특성 기여도 기반의 신뢰도 지표를 활용해 해석의 충실도를 정량화한다.

제안 방법

• 제약 조건이 있는 자원 배정 모델과 XAI 해설기가 소프트 기여도와 예측을 반복적으로 교환하는 폐쇄형 피드백(in-hoc) FL 프레임워크를 제안한다.
• 신뢰도 지표를 통한 공동 최적화를 통해 모델 성능과 해석 충실도를 동시에 최적화하기 위해 프록시 라그랑주 두 플레이어 게임 전략을 통합한다.
• 훈련 중 특성 중요도 점수를 생성하기 위해 통합 기여도(IG), Input×Gradient, SHAP를 기여도 생성기로 사용한다.
• 특성 기여도 기반의 신뢰도 지표를 런타임 FL 최적화 과정에 제약 조건으로 통합하여 신뢰할 수 있고 충실도가 높은 해석을 보장한다.
• 비독립 동일 분포(non-IID) 데이터 환경을 시뮬레이션하는 RAN-에지 환경에서 인-하우 FL 기법을 구현하여 실제 6G 네트워크 슬라이싱 시나리오를 모의한다.
• 다양한 XAI 방법에 대해 수렴 시간과 모델 성능을 평가하고, 제약 조건이 없는 사후(post-hoc) FL 기준선과 비교한다.

Figure 2: in-hoc FL for transparent resource allocation.

실험 결과

연구 질문

• RQ1 훈련 중 XAI를 통합한 인-하우 FL 접근 방식이 6G 네트워크 슬라이싱에서 성능-해석 가능성 간 상충 관계를 효과적으로 줄일 수 있는가?
• RQ2 특성 기여도 기반의 신뢰도 지표 통합이 FL 환경에서 해석의 충실도와 신뢰성에 어떤 영향을 미치는가?
• RQ3 다양한 XAI 방법(IG, SHAP, Input×Gradient)이 인-하우 FL 프레임워크에서 수렴 속도와 모델 신뢰도에 미치는 영향은 어떠한가?
• RQ4 비독립 동일 분포(non-IID) 데이터 조건 하에서 제안된 인-하우 FL 방법은 사후 FL 기준선에 비해 훈련 시간과 해석 품질 측면에서 어떤 차이를 보이는가?
• RQ5 CQI, OTT 트래픽, MIMO 풀랭크 등의 네트워크 파라미터 중 CPU 할당 예측에 가장 큰 영향을 미치는 요소는 무엇이며, 제안된 방법을 통해 신뢰성 있게 식별할 수 있는가?

주요 결과

• 기여도 방법으로 통합 기여도(IG)를 사용한 인-하우 FL 접근 방식은 사후 기준선에 근접한 가장 빠른 수렴 시간을 기록하면서도 가장 높은 예측 신뢰도를 유지한다.
• 기여도 기반의 신뢰도 지표는 해석의 충실도를 성공적으로 정량화하며, FL 최적화 과정에서 효과적인 제약 조건으로 작용한다.
• SHAP 기반 기여도 분석 결과, CQI는 CPU 할당에 가장 강한 정적 영향을 미치며, 이는 더 나은 채널 품질이 재전송 횟수 감소와 낮은 큐잉 지연으로 이어져 CPU 부하 감소에 기여함을 시사한다.
• TRP당 OTT 트래픽은 양의 값 집중을 보이며, 이는 높은 트래픽 수준이 CPU 부하 증가와 관련이 있음을 시사하고, 동적 자원 스케일링이 가능함을 의미한다.
• 이 시나리오에서는 MIMO 풀랭크가 크기가 매우 낮아 CPU 부하에 미치는 영향이 무시 가능하지만, 모델은 여전히 잠재적 신호 품질 악화 문제를 탐지할 수 있다.
• 인-하우 FL 프레임워크는 사후 기준선에 비해 수렴까지의 계산 복잡도가 낮으면서도 더 높은 해석 신뢰도와 성능을 제공한다.

Figure 3: FL training MSE loss vs. FL rounds with $\nu=[0.82,0.83,0.85]$