[論文レビュー] Ethical Artificial Intelligence Principles and Guidelines for the Governance and Utilization of Highly Advanced Large Language Models

Soaad Hossain, Syed Ishtiaque Ahmed|arXiv (Cornell University)|Dec 19, 2023

Artificial Intelligence in Healthcare and Education被引用数 4

ひとこと要約

本論文は、人間知能を超える可能性を秘めた高度な大規模言語モデル（LLMs）のための予防的ガバナンス枠組みを提唱する。これは、責任、耐性、技術の悪用防止といった既存の倫理的AI原則に加え、UNESCOおよびEUの社会的・環境的幸福と安全に関する指針を活用したものである。本論文は、人間知能を超えた段階に達する前に、不可逆的な被害を回避するため、医薬品と同様の事前評価プロセスの導入を提唱する。

ABSTRACT

Given the success of ChatGPT, LaMDA and other large language models (LLMs), there has been an increase in development and usage of LLMs within the technology sector and other sectors. While the level in which LLMs has not reached a level where it has surpassed human intelligence, there will be a time when it will. Such LLMs can be referred to as advanced LLMs. Currently, there are limited usage of ethical artificial intelligence (AI) principles and guidelines addressing advanced LLMs due to the fact that we have not reached that point yet. However, this is a problem as once we do reach that point, we will not be adequately prepared to deal with the aftermath of it in an ethical and optimal way, which will lead to undesired and unexpected consequences. This paper addresses this issue by discussing what ethical AI principles and guidelines can be used to address highly advanced LLMs.

研究の動機と目的

• 人間知能を超える可能性を秘めた高度なLLMsが近い将来に登場するにもかかわらず、その倫理的AIガバナンス枠組みが不足していることに対処する。
• 高度なLLMsが引き起こす独自のリスクに対応するため、既存の倫理的AI原則および指針を特定・適応する。
• 高度なLLMsが社会的・環境的被害を不可逆的に引き起こす可能性を鑑み、政策立案の緊急性を強調する。
• 医薬品承認プロセスを模範とする規制モデルを提唱し、安全性と責任の確保を図る。
• 現在のAI政策枠組みを超えて、高度なLLMsの倫理的ガバナンスに関するさらなる研究を促進する。

提案手法

• オーストラリア政府の責任定義を採用し、AIの成果に対してシステムライフサイクル全体で責任を負うことを要請する。
• アフリカのコミュニティの視点を統合し、倫理的・法的・社会的文化的影響の緩和を強調する耐性の観点を重視する。
• UNESCOの11の倫理的AI指針、特に社会的・環境的幸福に関するものを適用し、高度なLLMsの環境的・健康的影響を評価する。
• EUの安全指針を統合し、レジリエンス、バックアップメカニズム、正確性、信頼性を強調する。
• UNESCOの責任指針を活用し、高度なLLMsのトレーサビリティ、監視、監査メカニズムを確保する。
• 医薬品規制を模した事前評価および承認プロセスを提唱し、高リスクAIシステムの管理を図る。

実験結果

リサーチクエスチョン

• RQ1 人間知能を超える前に、高度なLLMsを統治するために最も関連性の高い倫理的AI原則は何か？
• RQ2 UNESCOおよびEUの既存の倫理的AI指針は、高度なLLMsが引き起こす独自のリスクに対応するためにどのように適応可能か？
• RQ3 高度なLLMsが引き起こす倫理的・法的・社会的文化的影響を前もって緩和するための政策的メカニズムは何か？
• RQ4 医薬品など高リスク分野からの規制モデルは、高度なLLMsにどの程度適用可能か？
• RQ5 高度なLLMsが社会および環境に不可逆的な被害を及えることを防ぐために、どのような主要な配慮事項が必要か？

主な発見

• 責任、耐性、技術の悪用防止といった倫理的AI原則は、高度なLLMsの統治に不可欠である。
• UNESCOの社会的・環境的幸福に関する指針は、組織がAIライフサイクル全体を通じて直接的および間接的な環境的影響を評価する必要があることを要請する。
• EUの安全指針は、耐性、バックアップメカニズム、信頼性を強調しており、これらは高度なLLMsにとって極めて重要である。
• 人権および環境基準への準拠を確保するため、監視および監査トレースのメカニズムといった責任のメカニズムが不可欠である。
• 高度なLLMsが大規模かつ不可逆的な被害を引き起こす可能性を鑑み、医薬品と同様の承認プロセスの導入を推奨する。
• 既存の倫理的AIフレームワークは、新規のアイデアの生成や、かつて不可能とされたタスクの実行といった高度なLLMsの独自の能力をカバーするために拡張される必要がある。