[논문 리뷰] Dual Governance: The intersection of centralized regulation and crowdsourced safety mechanisms for Generative AI

Avijit Ghosh, Dhanya Lakshmi|arXiv (Cornell University)|2023. 08. 02.

Law, AI, and Intellectual PropertyComputer Science인용 수 3

한 줄 요약

이 논문은 생성형 AI의 안전성을 확보하기 위해 중심화된 미국 규제와 공동체 기반의 오픈소스 안전 메커니즘을 융합한 하이브리드 프레임워크인 '듀얼 거버넌스'를 제안한다. 규제 기준을 투명한 레지스트리를 통해 기술 도구와 연결함으로써 명확성, 통일성, 가용성, 민첩성을 향상시키며, 공정한 혁신을 가능하게 하면서도 허위 정보, 편향, 지적재산권 침해와 같은 윤리적 해를 최소화한다.

ABSTRACT

Generative Artificial Intelligence (AI) has seen mainstream adoption lately, especially in the form of consumer-facing, open-ended, text and image generating models. However, the use of such systems raises significant ethical and safety concerns, including privacy violations, misinformation and intellectual property theft. The potential for generative AI to displace human creativity and livelihoods has also been under intense scrutiny. To mitigate these risks, there is an urgent need of policies and regulations responsible and ethical development in the field of generative AI. Existing and proposed centralized regulations by governments to rein in AI face criticisms such as not having sufficient clarity or uniformity, lack of interoperability across lines of jurisdictions, restricting innovation, and hindering free market competition. Decentralized protections via crowdsourced safety tools and mechanisms are a potential alternative. However, they have clear deficiencies in terms of lack of adequacy of oversight and difficulty of enforcement of ethical and safety standards, and are thus not enough by themselves as a regulation mechanism. We propose a marriage of these two strategies via a framework we call Dual Governance. This framework proposes a cooperative synergy between centralized government regulations in a U.S. specific context and safety mechanisms developed by the community to protect stakeholders from the harms of generative AI. By implementing the Dual Governance framework, we posit that innovation and creativity can be promoted while ensuring safe and ethical deployment of generative AI.

연구 동기 및 목표

• 순수하게 중심화된 AI 규제의 한계를 해결하기 위해, 기술적 구체성, 통일성, 민첩성이 부족한 경우가 많기 때문이다.
• 분산형, 공동체 기반의 안전 도구의 단점을 극복하기 위해, 집행력, 감시, 표준화가 부족하기 때문이다.
• 규제 권한과 공동체 기반 기술적 개입을 조화롭게 융합한, 상호보완적인 거버넌스 모델을 구축하기 위해이다.
• 대규모 및 소규모 기술 개발자와 최종 사용자가 안전 메커니즘에 공정하게 접근할 수 있도록 보장하기 위해이다.
• 빠르게 변화하는 AI 기술과 규제 필요성에 대응할 수 있도록 동적이고 재검토 가능한 체계를 구축하기 위해이다.

제안 방법

• 미국 규제 요구사항을 특정 오픈소스 안전 도구(예: 워터마킹, 모델 삭제, 데이터셋 필터링)에 매핑하는 중심화된 레지스트리를 구축하기 위해이다.
• 기존 오픈소스 도구(예: 모델 회피를 위한 glaze, 개념 제거를 위한 erasure, LLM 워터마킹 등)를 표준화된 거버넌스 프레임워크에 통합하기 위해이다.
• 정책 및 도구의 정기적 검토를 통해 기술적 및 규제적 변화에 대응할 수 있도록 유연성과 관련성을 유지하기 위해이다.
• AI 바이오 오브 라이츠의 블루프린트에서 영감을 얻어 신고자 제도 및 인간 대체 메커니즘을 통합하여 책임성을 확보하기 위해이다.
• 규제 의도가 기술적 구현과 일치하는 투명하고 감사 가능한 체계를 구축하기 위해, 문서화된 매핑을 통해 실현하기 위해이다.
• CFPB 등 기존 규제 기관을 활용하여 안전 기준 위반 시 실질적인 구제 조치를 가능하게 하고, 기준 이행을 강제하기 위해이다.

실험 결과

연구 질문

• RQ1 중앙화된 규제와 분산형 안전 메커니즘은 어떻게 의미 있게 통합되어 생성형 AI 거버넌스를 향상시킬 수 있는가?
• RQ2 AI 안전성에서 명확성, 통일성, 가용성, 민첩성, 투명성을 확보하기 위해 거버넌스 프레임워크에 필요한 기준은 무엇인가?
• RQ3 오픈소스 안전 도구는 정부 규제와 얼마나 효과적으로 일치시킬 수 있으며, 통합된 규제 생태계를 구축할 수 있는가?
• RQ4 생성형 AI의 빠른 기술 변화에 대비하여 이 프레임워크는 어떻게 관련성과 적응 가능성을 유지할 수 있는가?
• RQ5 대규모 기업과 소규모 기업 모두가 안전 조치를 공정하게 접근하고 구현할 수 있도록 보장하는 메커니즘은 무엇인가?

주요 결과

• 듀얼 거버넌스 프레임워크는 중심화된 규제와 공동체 기반 안전 도구의 핵심적 약점을 모두 해결하며, 통합적이고 투명한 시스템으로 그 강점을 융합한다.
• 규제를 특정 기술 도구에 매핑함으로써 명확성이 향상되고, 규제 의도가 기술적으로 실행 가능하고 검증 가능해진다.
• 규제 및 도구에 대한 정기적 검토를 통해 프레임워크는 새로운 AI 위험과 혁신에 민첩하고 반응적으로 유지될 수 있다.
• 소규모 및 중간 규모 개발자에게도 안전 메커니즘이 접근 가능하고 비용 효율적으로 제공되므로, 공정한 혁신을 지원한다.
• 실질적인 구제 조치 및 투명성 메커니즘을 통합함으로써, 프레임워크는 생성형 AI 시스템에 대한 책임성과 사용자 신뢰를 향상시킨다.
• 모델은 하이브리드 거버넌스 접근 방식이 단독으로 적용될 경우보다 높은 수준의 통일성, 가용성, 민첩성을 달성할 수 있음을 입증한다.