[論文レビュー] General Purpose Artificial Intelligence Systems (GPAIS): Properties, Definition, Taxonomy, Societal Implications and Responsible Governance

Isaac Triguero, Daniel Molina+3 more|arXiv (Cornell University)|Jul 26, 2023

Ethics and Social Impacts of AISocial Sciences参考文献 119被引用数 3

ひとこと要約

本論文は、自律性、適応性、自己認識に基づいて、閉じた世界と開かれた世界のGPAISに区別される、汎用人工知能システム（GPAIS）の包括的な定義と分類体系を提案する。GPAISはAI駆動型AIと単一の基盤モデルアプローチに分類され、生成AIと多様なモodal 情報処理が主な促進要因となる。また、これらのシステムの安全で制御可能な展開を確保するため、責任あるガバナンスと信頼性フレームワークの構築を提唱する。

ABSTRACT

Most applications of Artificial Intelligence (AI) are designed for a confined and specific task. However, there are many scenarios that call for a more general AI, capable of solving a wide array of tasks without being specifically designed for them. The term General-Purpose Artificial Intelligence Systems (GPAIS) has been defined to refer to these AI systems. To date, the possibility of an Artificial General Intelligence, powerful enough to perform any intellectual task as if it were human, or even improve it, has remained an aspiration, fiction, and considered a risk for our society. Whilst we might still be far from achieving that, GPAIS is a reality and sitting at the forefront of AI research. This work discusses existing definitions for GPAIS and proposes a new definition that allows for a gradual differentiation among types of GPAIS according to their properties and limitations. We distinguish between closed-world and open-world GPAIS, characterising their degree of autonomy and ability based on several factors such as adaptation to new tasks, competence in domains not intentionally trained for, ability to learn from few data, or proactive acknowledgment of their own limitations. We propose a taxonomy of approaches to realise GPAIS, describing research trends such as the use of AI techniques to improve another AI (AI-powered AI) or (single) foundation models. As a prime example, we delve into GenAI, aligning them with the concepts presented in the taxonomy. We explore multi-modality, which involves fusing various types of data sources to expand the capabilities of GPAIS. Through the proposed definition and taxonomy, our aim is to facilitate research collaboration across different areas that are tackling general purpose tasks, as they share many common aspects. Finally, we discuss the state of GPAIS, prospects, societal implications, and the need for regulation and governance.

研究の動機と目的

• 汎用AIシステム（GPAIS）について、自律性や能力の度合いを的確に捉えることのできる明確でスケーラブルな定義が不足しているという問題に対処すること。
• 背後にあるメカニズムに基づいてGPAISを分類し、AI駆動型AIと単一の基盤モデルに区別する分類体系を構築すること。
• 生成AIと多様なモダリティがGPAISの能力をどのように向上させるかを分析すること。
• GPAISの安全性、制御性、信頼性に関する懸念を含め、主な課題と社会的影響を特定すること。
• GPAISの信頼性があり制御可能な開発を保証するため、責任あるガバナンスと規制フレームワークを提唱すること。

提案手法

• 少サンプル学習、転移学習、制限の自己認識といった特性を強調したGPAISの新規定義を提案する。
• 適応性、自己認識、少サンプル学習能力に基づいて、限定的適応の閉じた世界GPAISと高い自律性と自己改善能力を有する開かれた世界GPAISに区別する分類体系を導入する。
• GPAISを2つの主要なファミリーに分類する：AI駆動型AI（AIを用いて他のAIを設計・最適化する）と単一の基盤モデル（広範なデータで訓練されたモノリシックモデル）。
• 生成AIとマルチモーダルシステムをGPAISの主要実現形態として分析し、多様な入力に対するゼロショットおよび少サンプル一般化を可能にする役割を強調する。
• NIST AIリスク管理フレームワーク（NIST AI RMF）に従い、信頼性を150の特性にマッピングし、安全性、公平性、説明可能性などを含む7つの次元（例：安全性、公平性、説明可能性）をカバーする。
• 開発者の法的責任と、モデルの能力に基づく安全基準を含むガバナンスメカニズムを提言する。

実験結果

リサーチクエスチョン

• RQ1 自律性や一般化能力の度合いを的確に捉えるために、GPAISを形式的に定義する方法は何か？
• RQ2 GPAISを構築するための主な技術的アプローチは何か？ それらはアーキテクチャと能力においてどのように異なるか？
• RQ3 現在の基盤モデルや生成AIシステムは、訓練分布を超えて真正の一般化を示しているとまではどの程度まで言えるか？
• RQ4 特に開かれた世界のシナリオにおいて、GPAISをどのようにして信頼性があり安全かつ制御可能にすることができるか？
• RQ5 GPAISの責任ある開発と展開を保証するためには、どのような規制およびガバナンスフレームワークが必要か？

主な発見

• 提案されたGPAISの定義により、適応性、自己認識、少サンプル学習能力に基づいて、閉じた世界と開かれた世界のGPAISの洗練された区別が可能になる。
• 分類体系により、GPAISへの2つの主要なアプローチが特定された：AI駆動型AI（複数のAIシステムのオ케ストレーション）と単一の基盤モデル（モノリシックで多様なタスク学習を実行するモデル）。
• 生成AIとマルチモーダルシステムは、多様な入力に対するゼロショットおよび少サンプル一般化を可能にするという点で、GPAISの中心的促進要因であることが示された。
• 現在のGPAISはAGIに到達していないものの、推論、適応、タスク転送における発生的機能を示しているが、完全な人間らしい意識や自発的行動を備えてはいない。
• 法的責任とモデル能力に基づく安全基準を含むガバナンスフレームワークの構築が不可欠である。これは予見可能な被害を防ぐために必要不可欠である。
• NIST AI RMFに150の特性をマッピングすることで、GPAISの信頼性を体系的に取り扱うことができる。その範囲には、安全性、公平性、透明性、レジリエンスが含まれる。