[论文解读] AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies

Yi Zeng, Kevin Klyman+7 more|arXiv (Cornell University)|Jun 25, 2024

Ethics and Social Impacts of AI被引用 4

一句话总结

本文提出 AIR 2024，一个基于欧盟、美国、中国及16家全球企业的24份政策文件的统一四层AI风险分类体系，识别出314种独特的风险类别。通过映射公共与私营部门框架中的风险，该研究揭示了监管中的缺口，并凸显企业政策在细节上更为详尽，为提升跨部门协作与AI安全评估提供了标准化语言。

ABSTRACT

We present a comprehensive AI risk taxonomy derived from eight government policies from the European Union, United States, and China and 16 company policies worldwide, making a significant step towards establishing a unified language for generative AI safety evaluation. We identify 314 unique risk categories organized into a four-tiered taxonomy. At the highest level, this taxonomy encompasses System & Operational Risks, Content Safety Risks, Societal Risks, and Legal & Rights Risks. The taxonomy establishes connections between various descriptions and approaches to risk, highlighting the overlaps and discrepancies between public and private sector conceptions of risk. By providing this unified framework, we aim to advance AI safety through information sharing across sectors and the promotion of best practices in risk mitigation for generative AI models and systems.

研究动机与目标

• 解决横跨公共与私营部门视角的统一AI风险分类体系缺失的问题。
• 系统分析AI公司与政府如何对生成式AI相关风险进行分类。
• 识别政府法规与企业政策之间在风险分类上的差异与重叠，以支持更有效的风险缓解。
• 开发一种标准化、细致的框架，以支持跨司法管辖区与行业的AI安全评估一致性。
• 为未来政策制定、基准测试与国际协作提供数据驱动的基础。

提出的方法

• 对24份政策文件进行逐行分析，包括8份政府法规（欧盟、美国、中国）与16份企业政策。
• 提取并映射所有独特的风险描述，构建四层分级分类体系：一级（4个高层类别）、二级（18个子类别）、三级（104个子子类别）与四级（314个原子风险类型）。
• 将风险划分为四大主要领域：系统与操作风险、内容安全风险、社会风险与法律及权利风险。
• 利用分类体系对不同司法管辖区与行业进行对比分析，评估一致性、覆盖范围与细致程度。
• 以中国《生成式人工智能服务暂行管理办法》及深度求索与百度的政策为案例研究，评估法律与企业实践之间的对齐程度。
• 通过三级与四级映射量化风险类别的重叠与差异，对政策覆盖范围与合规缺口进行统计报告。

Figure 1 : Overview of the AI risk taxonomy derived from 24 policy and regulatory documents, encompassing 314 unique risk categories. Charts on the right-hand side map to major AI regulations.

实验结果

研究问题

• RQ1 欧盟、美国与中国政府法规与企业政策在AI风险分类上存在哪些差异？
• RQ2 企业AI政策在多大程度上覆盖了当前政府法规未明确涉及的风险类别？
• RQ3 公共与私营部门框架在AI风险定义的细致程度与覆盖范围上存在哪些关键缺口或不一致？
• RQ4 中国企业在政策中列出的风险类别与《生成式人工智能服务暂行管理办法》中法定要求的风险类别在多大程度上对齐？
• RQ5 能否从真实政策中衍生出的统一分类体系，作为改进AI安全基准与跨司法管辖区政策协调的基础？

主要发现

• AIR 2024分类体系识别出314种独特的风险类别，采用四层分级结构，为AI风险评估提供了前所未有的细致程度。
• 企业政策覆盖了中国《生成式人工智能服务暂行管理办法》中指定超过90%的风险类别，表明尽管在两类特定风险上存在遗漏，整体对齐程度仍很高。
• 在研究的两家中国公司——深度求索与百度——的政策中，并未明确提及“系统自主危险操作”或“高度监管行业中的建议”风险，尽管其责任免除条款涵盖了类似风险。
• 政府法规（包括欧盟AI法案与美国行政命令）包含的风险类别少于企业政策，表明监管框架可能缺乏足够细节以支持有效执行。
• 分析显示，企业政策往往在自我伤害诱导与操作滥用等领域的风险分类上先于或超越监管要求，表明行业实践可为未来监管提供参考。
• 尽管在二级类别上存在高层级对齐，但表面一致性可能掩盖四级类别上的显著不一致，凸显在政策与安全评估中采用详细原子级别风险分类的必要性。

Figure 3 : EU regulations specified AI risks mapped as 23 level-3 categories in the AIR 2024.