[论文解读] Ethical Artificial Intelligence Principles and Guidelines for the Governance and Utilization of Highly Advanced Large Language Models

Soaad Hossain, Syed Ishtiaque Ahmed|arXiv (Cornell University)|Dec 19, 2023

Artificial Intelligence in Healthcare and Education被引用 4

一句话总结

本文提出了一种针对高度先进大型语言模型（LLMs）的主动治理框架，采用现有的伦理AI原则——尤其是责任、稳健性以及技术滥用防范——并结合联合国教科文组织和欧盟关于社会/环境福祉与安全的指导方针。该框架主张在部署前实施类似药品的筛查机制，以在这些模型超越人类智能之前减轻不可逆的伤害。

ABSTRACT

Given the success of ChatGPT, LaMDA and other large language models (LLMs), there has been an increase in development and usage of LLMs within the technology sector and other sectors. While the level in which LLMs has not reached a level where it has surpassed human intelligence, there will be a time when it will. Such LLMs can be referred to as advanced LLMs. Currently, there are limited usage of ethical artificial intelligence (AI) principles and guidelines addressing advanced LLMs due to the fact that we have not reached that point yet. However, this is a problem as once we do reach that point, we will not be adequately prepared to deal with the aftermath of it in an ethical and optimal way, which will lead to undesired and unexpected consequences. This paper addresses this issue by discussing what ethical AI principles and guidelines can be used to address highly advanced LLMs.

研究动机与目标

• 解决尽管高度先进LLMs即将超越人类智能，但其伦理AI治理框架仍严重缺乏的问题。
• 识别并适配现有伦理AI原则与指导方针，以应对先进LLMs带来的独特风险。
• 强调在先进LLMs部署前制定政策的紧迫性，因其可能对社会与环境造成不可逆的伤害。
• 提出一种受药品审批流程启发的监管模型，以确保安全与问责。
• 激发对超越当前AI政策框架的先进LLMs伦理治理的进一步研究。

提出的方法

• 采用澳大利亚政府对责任的定义，要求在整个系统生命周期中对AI结果承担问责。
• 整合非洲社区对稳健性的观点，强调减轻伦理、法律及社会文化影响。
• 应用联合国教科文组织的11项伦理AI指导方针，特别是关于社会与环境福祉的部分，以评估先进LLMs对环境与健康的影响。
• 融入欧盟关于安全的指导方针，强调韧性、备用机制、准确性与可靠性。
• 运用联合国教科文组织的问责指导方针，确保对先进LLMs的可追溯性、监督与审计机制。
• 提出一种类比药品监管的部署前筛查与审批流程，以管理高风险AI系统。

实验结果

研究问题

• RQ1 在先进LLMs超越人类智能之前，哪些伦理AI原则最适用于治理此类模型？
• RQ2 如何将联合国教科文组织与欧盟的现有伦理AI指导方针，适配以应对先进LLMs的独特风险？
• RQ3 可实施哪些政策机制以主动减轻先进LLMs在伦理、法律及社会文化方面的负面影响？
• RQ4 高风险领域（如药品）的监管模型在多大程度上可应用于先进LLMs？
• RQ5 为确保先进LLMs不对社会与环境造成不可逆伤害，关键考虑因素是什么？

主要发现

• 责任、稳健性以及技术滥用防范等伦理AI原则，对治理先进LLMs至关重要。
• 联合国教科文组织关于社会与环境福祉的指导方针要求组织评估AI生命周期中对环境的直接与间接影响。
• 欧盟的安全指导方针强调韧性、备用机制与可靠性，这对先进LLMs而言至关重要。
• 必须建立问责机制，包括监督与审计追踪，以确保符合人权与环境规范。
• 鉴于其可能造成大规模不可逆伤害，建议对先进LLMs采用类似药品的审批流程。
• 现有伦理AI框架必须扩展，以涵盖先进LLMs的独特能力，例如生成全新理念与执行以往不可能的任务。