[논문 리뷰] Governance of Generative Artificial Intelligence for Companies

Johannes Schneider, Kuss, Pauline외 2명|ArXiv.org|2024. 02. 05.

Collaboration in agile enterprises인용 수 4

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)의 고유한 특성에 맞게 기존의 인공지능(AI) 거버넌스 모델을 조정하여 기업 내 생성형 AI(Generative AI, GenAI)를 위한 맞춤형 거버넌스 프레임워크를 제안한다. 기술적 및 비즈니스적 관점의 통합을 통해 확장된 프레임워크 개발 과정을 거쳐, 편향, 환각 현상, 준수 문제와 같은 위험을 완화하면서 GenAI의 잠재력을 실현할 수 있는 실행 가능한 메커니즘을 제공한다.

ABSTRACT

Generative Artificial Intelligence (GenAI), specifically large language models (LLMs) like ChatGPT, has swiftly entered organizations without adequate governance, posing both opportunities and risks. Despite extensive debate on GenAI's transformative potential and emerging regulatory measures, limited research addresses organizational governance from both technical and business perspectives. While frameworks for AI governance exist, it remains unclear to what extent they apply to GenAI. This review paper fills this gap by surveying recent literature to better understand the fundamental characteristics of GenAI and to adapt existing governance frameworks specifically to GenAI within organizations. To this end, it extends Nickerson's framework development process by incorporating prior conceptualizations. The resulting framework delineates scope, objectives, and governance mechanisms designed to both harness business opportunities and mitigate risks associated with GenAI integration. Overall, this research advances a focused approach to GenAI governance, offering practical guidance for companies navigating the challenges of GenAI adoption and highlighting research gaps.

연구 동기 및 목표

• 생성형 AI, 특히 대규모 언어 모델(LLMs)에 대한 조직 거버넌스의 격차를 해소하기 위해, 증가하는 도입과 규제 관심에도 불구하고 이를 해결하고자 한다.
• 기존의 AI 거버넌스 프레임워크가 기업 환경에서 GenAI에 어떻게 적용되거나, 적용되지 않는지를 검토하고자 한다.
• 혁신과 위험 완화의 균형을 맞추기 위해 조직 특화된 포괄적인 거버넌스 프레임워크를 개발하고자 한다.
• 기술적 및 비즈니스적 차원의 이중적 초점을 통해 GenAI 도입의 복잡성을 다루는 데 실질적인 지침을 제공하고자 한다.
• 조직적 AI 관리 분야에서의 미래 연구 방향을 제안하기 위해 GenAI 거버넌스 분야의 핵심 연구 격차를 특정하고자 한다.

제안 방법

• Nickerson의 프레임워크 개발 과정을 기반으로 기존의 AI 거버넌스 개념화 및 GenAI 전용 과제를 통합한다.
• GenAI 및 조직 거버넌스 분야의 최근 문헌을 체계적으로 검토하여 핵심 특성과 위험 요소를 식별한다.
• 정의된 AI 거버넌스 원칙(공정성, 투명성, 책임성 등)을 LLM의 고유한 행동, 예를 들어 환각 현상과 프롬프트 민감성과 연결한다.
• 역할 기반 액세스 제어, 모델 모니터링 프로토콜, 데이터 라인리지 추적과 같은 GenAI 시스템에 특화된 거버넌스 메커니즘을 설계한다.
• 기술적 제어(예: 입력 검증, 출력 필터링)와 조직 정책(예: 사용 지침, 감사 기록)을 통합하여 종합적인 거버넌스를 구현한다.
• 실제 조직의 필요성과 신규 규제 기준과의 일치를 통해 프레임워크의 적용 가능성을 검증한다.

실험 결과

연구 질문

• RQ1 생성형 AI의 근본적인 특성, 특히 LLM의 특성은 조직 환경에서 기존의 AI 거버넌스 프레임워크에 어떤 도전을 가하는가?
• RQ2 현재의 AI 거버넌스 프레임워크는 기업 환경에서의 생성형 AI에 대해 어느 정도 적용 가능하며, 어떤 부분에서는 적응이 필요한가?
• RQ3 기술적 및 비즈니스적 차원에서 GenAI 도입 시 혁신과 위험을 균형 있게 조율하기 위해 필요한 구체적인 거버넌스 메커니즘은 무엇인가?
• RQ4 조직은 기술적 제어와 조직 정책을 통합함으로써 GenAI 거버넌스를 어떻게 운영화할 수 있는가?
• RQ5 기업 내 생성형 AI 거버넌스 분야에서 아직 남아 있는 핵심 연구 격차는 무엇인가?

주요 결과

• 연구는 GenAI 시스템, 특히 LLM이 환각 현상, 프롬프트 인젝션, 데이터 泄露와 같은 고유한 위험을 야기하며, 이러한 위험들은 기존의 전통적 AI 거버넌스 모델로는 충분히 다루어지지 않는다는 점을 규명했다.
• 기존의 AI 거버넌스 프레임워크는 GenAI의 동적이고 맥락 민감성, 고속 의사결정 패턴을 충분히 반영하지 못하고 있다.
• 제안된 프레임워크는 입력 정제 및 출력 모니터링과 같은 기술적 제어를 역할 기반 액세스 및 감사 기록과 같은 조직 정책과 효과적으로 통합하였다.
• 연구는 특히 고위험 기업 응용 분야에서 효과적인 GenAI 관리의 핵심은 기술적 및 비즈니스적 거버넌스의 이중적 초점임을 입증했다.
• 프레임워크는 표준화된 GenAI 위험 평가 지표가 필요하고, GenAI 거버넌스를 위한 조직의 성숙도 모델 개발이 필요하다는 중요한 연구 격차를 드러냈다.
• 연구는 GenAI의 변혁적 잠재력에도 불구하고 맞춤형 거버넌스가 없을 경우 기업이 규제 준수 불이행, 명성 손상, 운영 비효율성의 위험에 노출될 수 있다는 결론을 내렸다.