[논문 리뷰] Explainable Artificial Intelligence (XAI) for 6G: Improving Trust between Human and Machine

Weisi Guo|arXiv (Cornell University)|2019. 11. 11.

Adversarial Robustness in Machine Learning참고 문헌 15인용 수 10

한 줄 요약

이 논문은 임무 핵심 응용 분야에서 인공지능 기반 의사결정의 신뢰를 향상시키기 위해 설명 가능 인공지능(XAI)을 6G 무선 네트워크에 통합하는 종합적인 프레임워크를 제안한다. 기술적 방법으로는 모델 정수화, 양자화, 신경-기호 학습을 조합하고, 사용자에게 직관적인 설명과 엔지니어에게는 정량적 인 sight 를 제공하는 双중 설명 시스템을 도입하며, 적대적 공격과 인지 편향과 같은 과제를 해결한다.

ABSTRACT

As the 5th Generation (5G) mobile networks are bringing about global societal benefits, the design phase for the 6th Generation (6G) has started. 6G will need to enable greater levels of autonomy, improve human machine interfacing, and achieve deep connectivity in more diverse environments. The need for increased explainability to enable trust is critical for 6G as it manages a wide range of mission critical services (e.g. autonomous driving) to safety critical tasks (e.g. remote surgery). As we migrate from traditional model-based optimisation to deep learning, the trust we have in our optimisation modules decrease. This loss of trust means we cannot understand the impact of: 1) poor/bias/malicious data, and 2) neural network design on decisions; nor can we explain to the engineer or the public the network's actions. In this review, we outline the core concepts of Explainable Artificial Intelligence (XAI) for 6G, including: public and legal motivations, definitions of explainability, performance vs. explainability trade-offs, methods to improve explainability, and frameworks to incorporate XAI into future wireless systems. Our review is grounded in cases studies for both PHY and MAC layer optimisation, and provide the community with an important research area to embark upon.

연구 동기 및 목표

• 딥 러닝 기반 6G 네트워크 최적화에서 투명성과 신뢰의 부족을 해결하기 위해 물리계층 및 MAC 계층에서 특히 중시한다.
• GDPR 및 미국 규제 요구사항을 포함한 점증하는 공공 및 법적 요구사항에 부응하기 위해 설명 가능 인공지능을 제공한다.
• 최종 사용자(예: 앱 또는 뇌 인터페이스를 통해)와 네트워크 엔지니어(예: 기능 중요도 분석)에게 맞춤형 설명을 제공하는 이중 설명 프레임워크를 개발한다.
• AI 기반 무선 자원 관리에서 데이터 편향, 모델 불확실성, 적대적 공격으로 인한 위험을 완화한다.
• 실제 사례 연구를 기반으로 한 통합 프레임워크를 제안하여 6G에서 XAI의 기초를 마련한다. 물리계층 및 중계 접근 제어 계층에서의 사례 기반 분석을 포함한다.

제안 방법

• 6G 네트워크를 위한 다층 XAI 프레임워크를 제안하여 시스템, 모델, 인터페이스 수준에서 설명 가능성을 통합한다.
• 모델 압축 기법—자르기, 양자화, 아키텍처 재설계—을 적용하여 성능을 훼손하지 않으면서도 해석 가능성을 향상시킨다.
• 로컬 서rogate 모델(예: LIME 또는 선형 근사)을 사용하여 복잡한 DNN 결정을 핵심 입력 특성의 관점에서 설명한다.
• 주된 딥 러닝 모델의 행동을 반영하는 병렬 해석 가능한 AI 시스템인 'XAI 트윈'의 개념을 도입한다. 이는 실시간 설명을 제공한다.
• 신경-기호 개념 학습(NS-CL)을 활용하여 신경망 결정을 인간이 읽을 수 있는 언어적 기술 및 추론 설명으로 변환한다.
• 사용자의 정서 상태와 인지 편향을 설명 설계에 통합하여 사용자 및 엔지니어 역할 간 공감과 이해도를 향상시킨다.

실험 결과

연구 질문

• RQ1 설명 가능 인공지능은 어떻게 체계적으로 6G 무선 네트워크에 통합되어 자율적 의사결정의 신뢰를 향상시킬 수 있는가?
• RQ2 6G 물리계층 및 MAC 계층 최적화에 대한 딥 러닝 및 딥 강화 학습에서 성능-설명 가능성 간 상호 교환 관계는 무엇인가?
• RQ3 XAI 프레임워크는 GDPR 및 미국 평등 신용 기회법과 같은 법적 및 사회적 알고리즘 투명성 요구사항을 어떻게 충족시킬 수 있는가?
• RQ4 인지 편향과 정서 상태는 AI 설명의 해석에 어떤 역할을 하는가? 그리고 이러한 요소에 대응하기 위해 시스템은 어떻게 적응할 수 있는가?
• RQ5 특히 안전 핵심 6G 응용 분야에서 모델 투명성의 취약점을 악용하는 적대적 공격에 대해 XAI는 어떻게 방어할 수 있는가?

주요 결과

• 자율 주행 및 원격 수술과 같은 임무 핵심 서비스에서 AI의 증가하는 배치를 고려할 때, XAI는 6G에서 필수적이다. 이는 신뢰성과 책임 소재가 핵심이기 때문이다.
• 현재 6G에서 사용 중인 딥 러닝 모델은 본질적으로 투명하지 않아 데이터 편향, 열악한 입력 품질, 또는 잘못된 네트워크 설계가 의사결정에 영향을 주는 방식을 추적하기 어렵다.
• 자르기 및 양자화와 같은 모델 압축 기법은 모델 크기를 줄이는 것 외에도 주요 특성과 복잡성을 줄여서 설명 가능성을 향상시킨다.
• 제안된 XAI 트윈 프레임워크는 설명 가능성을 희생시키지 않으면서도 고성능 AI를 제공한다. 이는 주된 네트워크의 행동을 반영하는 병렬 해석 가능한 모델을 제공한다.
• 신경-기호 개념 학습(NS-CL)은 복잡한 신경망 결정을 자연어 설명으로 변환하여 인간의 이해도와 신뢰도를 향상시킨다.
• 목표 지속성 노이즈를 사용한 적대적 공격는 잘 훈련된 딥 러닝 모델을 심각하게 방해할 수 있으며, 이는 6G 시스템에서 강력한 XAI 방어 수단이 절실하게 필요함을 시사한다.