[論文レビュー] TASRA: a Taxonomy and Analysis of Societal-Scale Risks from AI

Andrew Critch, Stuart D. Russell|arXiv (Cornell University)|Jun 12, 2023

Ethics and Social Impacts of AI被引用数 15

ひとこと要約

本論文は、説明責任に基づく網羅的な社会規模のAIリスクの分類法を、物語を用いて例示し、それらを緩和するための規制・監督・技術的アプローチを論じる。

ABSTRACT

While several recent works have identified societal-scale and extinction-level risks to humanity arising from artificial intelligence, few have attempted an {\em exhaustive taxonomy} of such risks. Many exhaustive taxonomies are possible, and some are useful -- particularly if they reveal new risks or practical approaches to safety. This paper explores a taxonomy based on accountability: whose actions lead to the risk, are the actors unified, and are they deliberate? We also provide stories to illustrate how the various risk types could each play out, including risks arising from unanticipated interactions of many AI systems, as well as risks from deliberate misuse, for which combined technical and policy solutions are indicated.

研究の動機と目的

• AIによる社会規模の被害の網羅的分類法を開発する。
• 説明責任に基づいて分類法を位置づける：誰が責任を負い、統合されているか、行為は意図的か。
• 複数のAIシステム間の相互作用や悪用を強調する物語を用いてリスクの種類を例示する。
• 規制の先見性、監督機構、分析のための新しい学際的技術分野を提案する。
• 責任の拡散と大規模な影響を緩和するための技術的および政策的介入の必要性を強調する。

提案手法

• 説明責任に基づいて社会規模の被害を分類する網羅的な意思決定木分類法を提案する。
• 6つのリスクタイプを定義し、それを現実世界の潜在的シナリオに対応づける。
• 多数のAIシステム間の相互作用や意図的な悪用からリスクが生じる可能性を示す物語を用いる。
• アルゴリズム経済のグローバル規模の監視を含む規制と監督の必要性について論じる。
• 影響制御、スコープ感度、モデルベース対モデルフリーの規制といった技術的概念を議論し、AIの影響を抑制する。
• 制御理論、オペレーションズリサーチ、経済学、法学、政治理論を統合した社会技術分析の統一学問分野の枠組みを提案する。

Figure 1: Purple and orange annotations on Figure 2 of the NIST “AI Risk Management Framework: Initial Draft”, indicating what we consider to be “societal-scale risks”.

実験結果

リサーチクエスチョン

• RQ1 AIによる社会規模の被害のタイプは何で、それらを網羅的に分類するにはどうすればよいか。
• RQ2 複数のAIシステム間の相互作用と責任の拡散はどのようにリスクに寄与するか。
• RQ3 これらのリスクを防止または緩和するために必要な規制・監督・技術的アプローチは何か。
• RQ4 影響制御とスコープ感度をどのように用いて予期せぬ大規模な結果を限定できるか。

主な発見

• 説明責任と行為者の協調性を軸に組織化された、6つのリスクタイプの網羅的分類法を提案する。
• リスクは多数のAIシステム間の相互作用や故意の悪用から生じることがあり、単一の誤設定システムだけではない。
• 規制の先見性、グローバルな監視、および社会規模のアルゴリズム経済を監視・管理する新しい学際分野が必要。
• 事例と物語は責任の拡散、生産ウェブ、予想以上または期待を上回る影響を示す。
• 影響制御、スコープ感度、モデルベースとモデルフリーのアプローチといった技術概念を、リスクを抑制する仕組みとして議論する。
• 本文は技術的・政策的・ガバナンスの視点を組み合わせて社会規模のAIリスクに対処するべきであると主張する。

Figure 2: An exhaustive decision tree for classifying societal-scale harms from AI technology