[논문 리뷰] The Gradient of Generative AI Release: Methods and Considerations

Irene Solaiman|arXiv (Cornell University)|2023. 02. 05.

Scientific Computing and Data Management인용 수 16

한 줄 요약

본 논문은 생성형 AI 공개의 여섯 단계 접근 수준을 순위화하는 그래디언트 프레임워크를 제시하고, 공개 동향과 안전 제어를 분석하며, 위험 완화를 위한 다학제적 거버넌스와 투자를 제안한다.

ABSTRACT

As increasingly powerful generative AI systems are developed, the release method greatly varies. We propose a framework to assess six levels of access to generative AI systems: fully closed; gradual or staged access; hosted access; cloud-based or API access; downloadable access; and fully open. Each level, from fully closed to fully open, can be viewed as an option along a gradient. We outline key considerations across this gradient: release methods come with tradeoffs, especially around the tension between concentrating power and mitigating risks. Diverse and multidisciplinary perspectives are needed to examine and mitigate risk in generative AI systems from conception to deployment. We show trends in generative system release over time, noting closedness among large companies for powerful systems and openness among organizations founded on principles of openness. We also enumerate safety controls and guardrails for generative systems and necessary investments to improve future releases.

연구 동기 및 목표

• 완전히 비공개에서 완전히 공개에 이르기까지 생성형 AI 시스템의 공개 접근을 분류하기 위한 그래디언트 프레임워크를 제안한다.
• 다양한 모달리티와 조직 유형에 걸친 과거의 공개 동향을 분석한다.
• 더 안전한 향후 공개를 가능하게 하는 안전 제어, 가드레일 및 필요한 투자를 식별한다.
• AI 공개에 대한 거버넌스, 정책 및 실용적 윤리에 대한 다학제적 시각의 필요성을 주장한다.

제안 방법

• 발표 결정의 구조를 위해 시스템 접근의 여섯 레벨 그래디언트를 정의한다(완전히 비공개에서 완전히 공개까지).
• 공개에 포함되는 구성 요소를 열거한다: 모델 접근, 위험 분석 구성 요소, 복제 구성 요소.
• 전력 집중, 위험 완화, 책임성 등 주요 공개 고려사항을 개요화한다.
• 문서화, 기술 도구, 커뮤니티 노력, 정책 수단에 걸친 안전 제어 및 가드레일을 요약한다.
• 시간에 따른 대기업과 공개 이니셔티브의 공개 시기 및 개방성의 추세를 분석한다.

실험 결과

연구 질문

• RQ1 생성형 AI 공개 그레디언트의 뚜렷한 수준은 무엇이며, 접근 및 제어 측면에서 어떤 내용을 포함하는가?
• RQ2 실제로 공개 방법은 권력 집중과 위험 및 안전 사이의 거래에서 어떻게 작용하는가?
• RQ3 다양한 공개 수준에 걸쳐 어떤 안전 제어, 가드레일, 거버넌스 메커니즘이 효과적인가?
• RQ4 모듈리티와 조직 간에 공개성과 비밀성의 과거 추세에서 어떤 경향이 관찰되는가?
• RQ5 미래의 책임 있는 공개를 개선하기 위해 필요한 투자와 다학제적 조치는 무엇인가?

주요 결과

• 개방형 공개는 소규모 조직과 덜 강력한 모델에서 더 일반적이며, 대기업은 폐쇄적 공개를 지향한다.
• 개방성에 기반한 조직의 개방 이니셔티브는 완전한 투명을 보여주지만 위험한 사용을 가능하게 할 수 있으며, 폐쇄적 공개는 권력을 집중시킨다.
• 문서화, 속도 제한, 탐지 모델, 라이선스 등은 공개 전 과정을 통해 사용되는 실질적 안전 제어 수단이다.
• 다학제적 전문성과 거버넌스는 공개 생애주기 전반의 해악을 예측·평가·완화하는 데 필수적이다.
• 향후 공개를 개선하기 위해 접근 가능한 인터페이스, 자원 공유, 윤리 교육, 전문가 예지에 상당한 투자가 필요하다.