[논문 리뷰] QB4AIRA: A Question Bank for AI Risk Assessment

Sung Une Lee, Harsha Perera외 6명|arXiv (Cornell University)|2023. 05. 16.

Artificial Intelligence in Healthcare and EducationMedicine인용 수 3

한 줄 요약

QB4AIRA는 다섯 개의 글로벌 AI 윤리 프레임워크에서 유래한 293개의 질문으로 구성된 구체적인 질문 은행으로, 호주 AI 윤리 원칙을 기반으로 한다. 이는 계층적 분류, 의사결정 트리, 개념 맵핑을 통해 체계적이고 이해관계자에 관계없이 위험 평가를 가능하게 하며, 수동 평가 및 AI 기반 위험 챗봇과 같은 도구에의 통합을 지원한다.

ABSTRACT

The rapid advancement of Artificial Intelligence (AI), represented by ChatGPT, has raised concerns about responsible AI development and utilization. Existing frameworks lack a comprehensive synthesis of AI risk assessment questions. To address this, we introduce QB4AIRA, a novel question bank developed by refining questions from five globally recognized AI risk frameworks, categorized according to Australia's AI ethics principles. QB4AIRA comprises 293 prioritized questions covering a wide range of AI risk areas, facilitating effective risk assessment. It serves as a valuable resource for stakeholders in assessing and managing AI risks, while paving the way for new risk frameworks and guidelines. By promoting responsible AI practices, QB4AIRA contributes to responsible AI deployment, mitigating potential risks and harms.

연구 동기 및 목표

• 다양한 AI 윤리 원칙과 프레임워크를 아우르는 종합적이고 연결되어 있으며 표준화된 위험 평가 질문 은행의 부족을 해결하기 위해.
• NIST, EU 신뢰할 수 있는 AI, 마이크로소프트의 RAI 지침을 포함한 다섯 개의 글로벌로 인정받는 AI 위험 평가 프레임워크에서 유래한 질문들을 통합하고 정제하기 위해.
• 호주의 AI 윤리 원칙을 기반으로 질문들을 체계화하여 광범위하게 수용된 윤리 기준과 일치시키고 다양한 이해관계자들이 사용하기 쉽게 만들기 위해.
• 실제 사례 연구를 통한 위험 평가 세션과 프로토타입 스마트 위험 평가 챗봇을 활용하여 QB4AIRA의 효과성을 평가하기 위해.
• 단계별 질문 부족 및 위험 지표 부족과 같은 현재 위험 평가 관행의 격차를 파악하고, 향후 프레임워크 개선을 위한 정보를 제공하기 위해.

제안 방법

• NIST AI RMF, EU 신뢰할 수 있는 AI 평가 목록, 캐나다의 AIA, NSW AI 보증 프레임워크, 마이크로소프트의 RAI 영향 평가 가이드를 포함한 다섯 개의 글로벌로 인정받는 AI 위험 평가 프레임워크를 비교 분석하였다.
• 중복 제거, 명확성 향상, 핵심 AI 윤리 원칙과의 일치를 확보하기 위해 382개의 초안 질문을 293개로 정제하였다.
• 여덟 가지 원칙에 따라 질문들을 분류: 인간과 사회의 복지(P1), 인간 중심가치(P2), 공정성(P3), 개인정보 및 보안(P4), 신뢰성 및 안전성(P5), 투명성 및 설명 가능성(P6), 이의 제기 가능성(P7), 책임성(P8), 각 원칙에 두 자리 식별자 부여.
• 반복적인 위험 주제를 식별하기 위해 개념 맵핑을 적용하고, 위험 수준과 순서에 따라 계층적으로 질문을 구성하기 위해 의사결정 트리 논리를 활용하였다.
• 위험 ID, 카테고리, 제목, 설명, 원인, 인터뷰 질문 등을 포함한 위험 레지스트리 템플릿을 개발하여 평가 세션에서 활용하기 위해 QB4AIRA에서 유도된 질문들을 포함시켰다.
• 300건 이상의 AI 사고 사례를 기반으로 한 지식 그래프와 GPT-3.5를 기초 모델로 사용하여 응답 생성을 수행하는 QB4AIRA를 프로토타입 스마트 위험 평가 챗봇(SRA)에 통합하였다.

실험 결과

연구 질문

• RQ1 다양한 기존 글로벌 프레임워크에서 유래한 종합적이고 표준화된 AI 위험 평가 질문 은행을 어떻게 구성할 수 있을까? 이 과정에서 핵심 의도를 유지하면서 연결성을 향상시킬 수 있는가?
• RQ2 QB4AIRA는 다양한 프로젝트 단계와 조직 역할을 고려할 때 효과적이고 체계적이며 이해관계자에 관계없이 위험 평가를 수행하는 데 얼마나 기여할 수 있는가?
• RQ3 현재 AI 위험 평가 관행의 주요 한계는 무엇이며, 특히 프로젝트 단계와의 일치 및 위험 정량화 측면에서 QB4AIRA는 어떻게 향후 개선을 통해 이를 보완할 수 있는가?
• RQ4 QB4AIRA는 AI 기반 도구에 효과적으로 통합되어 동적이고 맥락 인식 가능한 위험 평가를 가능하게 하고 비전문가 사용자의 접근성을 향상시킬 수 있는가?
• RQ5 원칙 기반으로 확장 가능한 질문 은행은 향후 AI 위험 프레임워크 및 규정 준수(예: EU AI Act, ISO 기준)를 설계하는 데 어떤 역할을 할 수 있는가?

주요 결과

• QB4AIRA는 다섯 개의 주요 AI 위험 평가 프레임워크에서 유래한 382개 질문을 호주의 AI 윤리 원칙과 일치시키며, 우선순위가 매겨지고 중복이 제거되고 명확하게 분류된 293개의 질문으로 통합하였다.
• 사례 연구 1에서는 PR4 및 PR8 프로젝트가 개인정보, 신뢰성, 투명성 측면에서 높은 위험을 보였고, 대부분의 프로젝트는 이의 제기 가능성 위험이 낮은 것으로 나타나, 단계별 위험 질문의 필요성을 강조하였다.
• 이해관계자들은 QB4AIRA의 현재 구조가 프로젝트 개발 단계와 통합되어 있지 않다는 점을 지적하여, 향후 버전에서 단계 인식 필터링을 포함시켜 맥락적 관련성과 평가 정확도를 향상시켜야 한다고 제안하였다.
• 프로토타입 스마트 위험 평가 도구(SRA)는 QB4AIRA를 지식 그래프 기반 챗봇의 입력으로 활용할 수 있음을 입증하였으며, 위험 수준에 따른 계층적 평가, 의사결정 트리 탐색, 사용자 맥락에 맞는 동적 질문 선택 기능을 제공하였다.
• 피드백은 QB4AIRA에 구체적인 위험 지표가 부재하다는 점을 강조하였으며, 이는 향후 개발에서 정량적 위험 스코어링를 지원하고 평가 시 주관적 판단을 줄이기 위한 중대한 격차로 간주된다.
• QB4AIRA는 확장 가능하도록 설계되어 있으며, 향후 EU AI Act 및 ISO/IEC 42125와 같은 신규 표준을 통합할 계획으로, 장기적 관련성과 규정 준수 성향을 강화할 예정이다.