[論文レビュー] Trustworthy, Responsible, and Safe AI: A Comprehensive Architectural Framework for AI Safety with Challenges and Mitigations

Chen Chen, Gong, Xueluan+4 more|arXiv (Cornell University)|Aug 23, 2024

Adversarial Robustness in Machine Learning被引用数 6

ひとこと要約

本論文はAI安全性の三本柱アーキテクチャフレームワーク（信頼できるAI、責任あるAI、そして安全なAI）を提案し、エコシステム全体におけるLLM/GAIの安全性を強調した課題と対策をレビューする。

ABSTRACT

AI Safety is an emerging area of critical importance to the safe adoption and deployment of AI systems. With the rapid proliferation of AI and especially with the recent advancement of Generative AI (or GAI), the technology ecosystem behind the design, development, adoption, and deployment of AI systems has drastically changed, broadening the scope of AI Safety to address impacts on public safety and national security. In this paper, we propose a novel architectural framework for understanding and analyzing AI Safety; defining its characteristics from three perspectives: Trustworthy AI, Responsible AI, and Safe AI. We provide an extensive review of current research and advancements in AI safety from these perspectives, highlighting their key challenges and mitigation approaches. Through examples from state-of-the-art technologies, particularly Large Language Models (LLMs), we present innovative mechanism, methodologies, and techniques for designing and testing AI safety. Our goal is to promote advancement in AI safety research, and ultimately enhance people's trust in digital transformation.

研究の動機と目的

• 信頼できるAI、責任あるAI、そして安全なAIの三本柱に基づくAI安全性のアーキテクチャフレームワークを定義する。
• 現在のAIシステムとエコシステムにおける各柱に影響を及ぼす課題と脆弱性を分析する。
• 技術的、倫理的、ガバナンスの次元を横断する緩和戦略を検討する。
• 信頼されたAIサプライチェーンと社会的安全を確保するためのライフサイクル、ガバナンス、テスト手法を論じる。
• 最先端のAI技術、特にLLMとGenerative AIの例を用いて概念を説明する。

提案手法

• 三つの柱を軸としたAI安全性の一貫したアーキテクチャ的枠組みを提案する。
• 各柱に関連する現在の研究開発について広範な文献調査を提供する。
• 入力の頑健性、敵対的攻撃、マルチモーダルおよびシステムレベルのリスクを横断する課題と脆弱性を概説する。
• 技術的、倫理的、ガバナンスの対策を統合する緩和戦略を論じる。
• AI安全性の機構・方法論・テスト手法を説明するためにLLMsの例を用いる。

Figure 1. Three pillars of AI Safety, i.e., Trustworthy AI, Responsible AI and Safe AI.

実験結果

リサーチクエスチョン

• RQ1 信頼できるAI、責任あるAI、そして安全なAIを脅かす主要な課題と脆弱性は何か？
• RQ2 技術的・倫理的・ガバナンスの各次元を横断してAI安全性を高める緩和戦略は何か？
• RQ3 最先端のAIエコシステム（例：LLM/GAI）は組織レベルおよびエコシステム全体の信頼・責任・安全性にどのように影響するか？
• RQ4 信頼されたAIサプライチェーンを維持するために、AIモデルとシステムをどのようにテスト・評価・ガバナンスできるか？

主な発見

• AI安全性の新規の三本柱アーキテクチャフレームワークを提案する。
• 技術的、倫理的、エコシステムレベルにわたる広範な課題と脆弱性をレビューする。
• 技術的な安全対策、ガバナンス、倫理を横断する緩和戦略を論じる。
• 安全性の考慮と機構を形成する上でのLLMsとGenerative AIの役割を強調する。
• デジタル変革に対する公衆の信頼を築くため、包括的でエコシステム対応の安全実践を提唱する。

Figure 2. Relations between AI foundation model and AI systems.