[논문 리뷰] Towards a Framework for Openness in Foundation Models: Proceedings from the Columbia Convening on Openness in Artificial Intelligence

Adrien Basdevant, Camille François외 14명|arXiv (Cornell University)|2024. 05. 17.

Law, AI, and Intellectual Property인용 수 5

한 줄 요약

이 논문은 기반 모델을 위한 AI 스택 전반의 개방성 프레임워크를 제시하고, 이전 연구를 요약하며, 개방성 추구의 이유를 분석하고, 모델 및 시스템 수준에서 개방성이 어떻게 다른지 개략적으로 안전 정의를 뒷받침하도록 안내한다.

ABSTRACT

Over the past year, there has been a robust debate about the benefits and risks of open sourcing foundation models. However, this discussion has often taken place at a high level of generality or with a narrow focus on specific technical attributes. In part, this is because defining open source for foundation models has proven tricky, given its significant differences from traditional software development. In order to inform more practical and nuanced decisions about opening AI systems, including foundation models, this paper presents a framework for grappling with openness across the AI stack. It summarizes previous work on this topic, analyzes the various potential reasons to pursue openness, and outlines how openness varies in different parts of the AI stack, both at the model and at the system level. In doing so, its authors hope to provide a common descriptive framework to deepen a nuanced and rigorous understanding of openness in AI and enable further work around definitions of openness and safety in AI.

연구 동기 및 목표

• 전통적인 소프트웨어 개방성을 넘어 AI 시스템의 개방성을 이해하기 위한 서술적 프레임워크를 제공한다.
• 기초 모델의 개방성에 관한 기존 연구를 요약하여 기존 관점을 통합한다.
• AI 시스템의 개방성에 대한 동기와 잠재적 이점과 위험을 분석한다.
• 모델 수준과 시스템 수준 모두에서 AI 스택의 다양한 부분에서 개방성이 어떻게 달라지는지 설명한다.

제안 방법

• AI와 기초 모델의 개방성에 관한 기존 문헌을 검토하고 합성한다.
• AI 시스템에서 개방성을 추구하는 다양한 잠재적 이유를 분석한다.
• 모델 수준 및 시스템 수준의 고려를 포함하여 AI 스택 전반에서 개방성이 어떻게 달라지는지 개요를 제시한다.

실험 결과

연구 질문

• RQ1 AI 스택 내에서 기초 모델의 개방성은 무엇으로 구성되는가?
• RQ2 모델 수준과 시스템 수준 구성요소 간에 개방성은 어떻게 달라지는가?
• RQ3 개방성을 추구하는 동인은 무엇이며 어떤 안전상의 시사점이 발생하는가?

주요 결과

• AI의 개방성을 분석하기 위한 서술적 프레임워크를 제공하여 개방성과 안전의 더 미묘한 정의를 가능하게 한다.
• 실용적이고 미묘한 AI 시스템 개방에 대한 의사결정을 안내하기 위해 기존 연구를 요약한다.
• 모델 및 시스템 수준 모두에서 AI 스택의 서로 다른 부분에 따라 개방성이 어떻게 달라지는지 밝힌다.