[論文レビュー] Towards a Framework for Openness in Foundation Models: Proceedings from the Columbia Convening on Openness in Artificial Intelligence

Adrien Basdevant, Camille François+14 more|arXiv (Cornell University)|May 17, 2024

Law, AI, and Intellectual Property被引用数 5

ひとこと要約

この論文は、基盤モデルのAIスタック全体におけるオープンネスの枠組みを提示し、既存研究を要約し、オープンネスを追求する理由を分析し、オープンネスがモデルレベルとシステムレベルでどのように異なるかを概説し、微妙な安全性定義を支える方法を示します。

ABSTRACT

Over the past year, there has been a robust debate about the benefits and risks of open sourcing foundation models. However, this discussion has often taken place at a high level of generality or with a narrow focus on specific technical attributes. In part, this is because defining open source for foundation models has proven tricky, given its significant differences from traditional software development. In order to inform more practical and nuanced decisions about opening AI systems, including foundation models, this paper presents a framework for grappling with openness across the AI stack. It summarizes previous work on this topic, analyzes the various potential reasons to pursue openness, and outlines how openness varies in different parts of the AI stack, both at the model and at the system level. In doing so, its authors hope to provide a common descriptive framework to deepen a nuanced and rigorous understanding of openness in AI and enable further work around definitions of openness and safety in AI.

研究の動機と目的

• 伝統的なソフトウェアのオープン性を超えたAIシステムにおけるオープンネスを理解するための記述的な枠組みを提供する。
• 基盤モデルにおけるオープンネスに関する既存研究を要約して、現存する見解を統合する。
• AIシステムにおけるオープンネスの動機と、潜在的な利点とリスクを分析する。
• モデルレベルおよびシステムレベルの両方において、AIスタックの異なる部分でオープンネスがどのように変化するかを説明する。

提案手法

• AIと基盤モデルにおけるオープンネスに関する既存の文献をレビュー・統合する。
• AIシステムを追求する際のさまざまな潜在的理由を分析する。
• AIスタック全体におけるオープンネスが、モデルレベルおよびシステムレベルの考慮を含めて、どのように変化するかを概説する。

実験結果

リサーチクエスチョン

• RQ1 AIスタック内の基盤モデルにとってのオープンネスとは何か。
• RQ2 モデルレベルとシステムレベルの構成要素を通じてオープンネスはどのように変化するか。
• RQ3 オープンネスを追求する動機は何か、そしてどのような安全性への影響が生じるか。

主な発見

• AIにおけるオープンネスを分析するための記述的な枠組みを提供し、オープンネスと安全性のより微細な定義を可能にすることを目指す。
• 既存の研究を要約して、AIシステムを開く際の実用的で微妙な決定を通知する。
• AIスタックの異なる部位、モデルレベルおよびシステムレベルの両方で、オープンネスがどのように変化するかを明確化する。