[논문 리뷰] Assessing the Case for Africa-Centric AI Safety Evaluations

Gathoni Ireri, Cecil Abungu외 7명|arXiv (Cornell University)|2026. 02. 14.

Ethics and Social Impacts of AI인용 수 0

한 줄 요약

본 논문은 프런티어 AI 시스템이 아프리카의 제약적이고 상호 의존적인 인프라에서 작동할 때의 이식성 격차를 해결하기 위해 아프리카 중심의 AI 안전 평가를 주장하며, 맞춤 위험 분류체계와 위협 모델링 전략을 제안한다.

ABSTRACT

Frontier AI systems are being adopted across Africa, yet most AI safety evaluations are designed and validated in Western environments. In this paper, we argue that the portability gap can leave Africa-centric pathways to severe harm untested when frontier AI systems are embedded in materially constrained and interdependent infrastructures. We define severe AI risks as material risks from frontier AI systems that result in critical harm, measured as the grave injury or death of thousands of people or economic loss and damage equivalent to five percent of a country's GDP. To support AI safety evaluation design, we develop a taxonomy for identifying Africa-centric severe AI risks. The taxonomy links outcome thresholds to process pathways that model risk as the intersection of hazard, vulnerability, and exposure. We distinguish severe risks by amplification and suddenness, where amplification requires that frontier AI be a necessary magnifier of latent danger and suddenness captures harms that materialise rapidly enough to overwhelm ordinary coping and governance capacity. We then propose threat modelling strategies for African contexts, surveying reference class forecasting, structured expert elicitation, scenario planning, and system theoretic process analysis, and tailoring them to constraints of limited resources, poor connectivity, limited technical expertise, weak state capacity, and conflict. We also examine AI misalignment risk, concluding that Africa is more likely to expose universal failure modes through distributional shift than to generate distinct pathways of misalignment. Finally, we offer practical guidance for running evaluations under resource constraints, emphasising open and extensible tooling, tiered evaluation pipelines, and sharing methods and findings to broaden evaluation scope.

연구 동기 및 목표

• 현 AI 안전 평가가 서구 중심적이며 아프리카 특유의 피해를 놓칠 수 있음을 주장한다.
• 위험(위험성), 취약성, 노출과 연계된 아프리카 중심의 심각한 AI 위험 분류체계를 개발한다.
• 아프리카 맥락에서 심각한 위험을 구분하는 기준으로 증폭(amplification)과 급작성(suddenness)을 정의한다.
• 제한된 자원, 연결성, 거버넌스 역량에 맞춘 위협 모델링 전략을 제안한다.
• 개방 도구 및 확장 가능한 방법을 포함한 자원 제약 평가에 대한 실용적 지침을 제공한다.

제안 방법

• 결과 임계치를 위험, 취약성, 노출을 거치는 과정 경로에 매핑하는 분류체계를 개발한다.
• 증폭과 급작성 개념으로 심각한 AI 위험을 정의한다.
• 아프리카 특유의 제약에 맞춰 위협 모델링 접근법을 조사하고 조정한다(참조 클래스 예측, 구조화된 전문가 추정, 시나리오 계획, 시스템 이론적 프로세스 분석).
• AI 불일치 위험을 분석하고, 분포형 이동(distributional shift)이 아프리카 특유의 경로가 아니라 보편적 실패 모드일 가능성을 강조한다.
• 개방적이고 확장 가능한 도구, 계층화된 평가 파이프라인, 평가 범위를 확장하기 위한 공유 방법을 권고한다.

실험 결과

연구 질문

• RQ1 프런티어 AI가 아프리카의 인프라 및 거버넌스 맥락과 상호 작용할 때 어떤 아프리카 중심의 심각한 AI 위험이 발생하는가?
• RQ2 아프리카에서 위험, 취약성, 노출의 교차점에서 위험을 어떻게 모델링할 수 있는가?
• RQ3 아프리카의 자원 제약과 거버넌스 역량에 가장 잘 맞는 위협 모델링 전략은 무엇인가?
• RQ4 아프리카는 고유한 아프리카 특유의 불일치 경로보다 분포형 이동을 통해 보편적 AI 불일치 실패 모드를 드러내는가?

주요 결과

• 서구 디자인의 안전 평가가 아프리카 특유의 해를 포착하지 못하는 이식성 격차가 존재한다.
• 결과 임계치를 경로에 연결하는 분류체계로 위험을 위험성, 취약성, 노출로 모델링하고, 심각한 위험을 증폭과 급작성으로 구분한다.
• 제한된 자원, 연결성, 취약한 국가지도 역량을 고려할 때 아프리카에 위협 모델링 접근법을 적용할 수 있다.
• 아프리카는 분포형 이동을 통해 보편적 불일치 실패 모드를 드러낼 가능성이 더 크며, 독특한 아프리카 특유의 불일치 경로를 생성하기보다.
• 실용적 지침은 개방 도구, 계층화된 평가 파이프라인, 평가 범위를 넓히기 위한 방법 공유를 강조한다.