[論文レビュー] Explainable Artificial Intelligence (XAI) for 6G: Improving Trust between Human and Machine

Weisi Guo|arXiv (Cornell University)|Nov 11, 2019

Adversarial Robustness in Machine Learning参考文献 15被引用数 10

ひとこと要約

本論文は、ミッションクリティカルな応用分野においてAI駆動意思決定の信頼性を高めるために、6G無線ネットワークに説明可能な人工知能（XAI）を統合する包括的なフレームワークを提案する。技術的手法としてモデル蒸留、プルーニング、神経記号論理学的学習を組み合わせ、ユーザー向けの直感的説明とエンジニア向けの定量的インサイトを提供する二重説明システムを採用する一方で、敵対的攻撃や認知バイアスといった課題に対処する。

ABSTRACT

As the 5th Generation (5G) mobile networks are bringing about global societal benefits, the design phase for the 6th Generation (6G) has started. 6G will need to enable greater levels of autonomy, improve human machine interfacing, and achieve deep connectivity in more diverse environments. The need for increased explainability to enable trust is critical for 6G as it manages a wide range of mission critical services (e.g. autonomous driving) to safety critical tasks (e.g. remote surgery). As we migrate from traditional model-based optimisation to deep learning, the trust we have in our optimisation modules decrease. This loss of trust means we cannot understand the impact of: 1) poor/bias/malicious data, and 2) neural network design on decisions; nor can we explain to the engineer or the public the network's actions. In this review, we outline the core concepts of Explainable Artificial Intelligence (XAI) for 6G, including: public and legal motivations, definitions of explainability, performance vs. explainability trade-offs, methods to improve explainability, and frameworks to incorporate XAI into future wireless systems. Our review is grounded in cases studies for both PHY and MAC layer optimisation, and provide the community with an important research area to embark upon.

研究の動機と目的

• PHYおよびMAC層における深層学習ベースの6Gネットワーク最適化における透明性と信頼の欠如に対処する。
• GDPRや米国規制要件を含む、説明可能なAIに関する増大する公共および法的要請に応える。
• エンドユーザー（例：アプリや脳インターフェースを通じて）とネットワークエンジニア（例：特徴量の重要度分析を通じて）にそれぞれ適合した説明を提供する二重説明フレームワークを開発する。
• AI駆動の無線リソース管理におけるデータバイアス、モデルの不確実性、敵対的攻撃のリスクを軽減する。
• 物理層およびメディアアクセス制御層の実世界の事例に基づいた統合フレームワークを提案することで、6GにおけるXAIの基盤を構築する。

提案手法

• 6Gネットワークに適した、システムレベル、モデルレベル、インターフェースレベルで説明可能性を統合する多段階XAIフレームワークを提案する。
• 性能を損なわずに解釈可能性を向上させるために、プルーニング、量子化、アーキテクチャ再設計といったモデル圧縮技術を適用する。
• 局所的補助モデル（例：LIMEや線形近似）を用いて、複雑なDNNの意思決定を重要な入力特徴に基づいて説明する。
• 主な深層学習モデルの挙動を模倣する並列で解釈可能なAIシステム「XAIツイン」の概念を導入し、リアルタイムの説明を可能にする。
• 神経記号論理的コンセプト学習（NS-CL）を活用し、ニューラルネットワークの意思決定を人間が読み取り可能な自然言語による特徴と推論の記述に変換する。
• ユーザーの心理状態や認知バイアスからのフィードバックを説明設計に組み込み、ユーザーおよびエンジニアの両者における共感性と理解度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 どのようにして説明可能なAIを6G無線ネットワークに体系的かつ統合的に統合し、自律的意思決定における信頼を高めることができるか？
• RQ2 6GのPHYおよびMAC層最適化における深層学習および深層強化学習において、性能と説明可能性の主なトレードオフは何か？
• RQ3 XAIフレームワークは、GDPR や米国平等信用機会法（U.S. Equal Credit Opportunity Act）に規定されるような、アルゴリズムの透明性に関する法的・社会的要請に対処できるか？
• RQ4 認知バイアスおよび心理状態は、AIの説明の解釈にどのように影響を及ぼすか？また、システムはそれらにどう対応できるか？
• RQ5 特に安全が求められる6Gアプリケーションにおいて、モデルの不透明性を悪用する敵対的攻撃からXAIをどのように防御できるか？

主な発見

• 自律走行や遠隔外科技術などのミッションクリティカルなサービスにおけるAIの拡大に伴い、6GにおいてXAIは不可欠である。信頼性と責任の所在が極めて重要となるからである。
• 6Gにおける現在の深層学習モデルは本質的に不透明であるため、データバイアス、低品質な入力、不適切なネットワーク設計が意思決定に与える影響を追跡することが困難である。
• プルーニングや量子化といったモデル圧縮技術は、モデルサイズの縮小に加え、顕著な特徴の強調と複雑性の低減により解釈可能性を向上させる。
• 提案されたXAIツインフレームワークにより、説明可能性を損なわず高パフォーマンスなAIを実現でき、主なネットワークの挙動を模倣する並列で解釈可能なモデルを提供する。
• 神経記号論理的コンセプト学習（NS-CL）により、複雑なニューラル意思決定を自然言語による説明に変換でき、人間の理解度と信頼性が向上する。
• 標的ノイズを用いた敵対的攻撃は、訓練済みの深層学習モデルを著しく攪乱する可能性があり、特に安全が求められる6Gアプリケーションにおいて、堅牢なXAI防御の緊急の必要性が浮き彫りになる。