[論文レビュー] Protecting Society from AI Misuse: When are Restrictions on Capabilities Warranted?

Markus Anderljung, Julian Hazell|arXiv (Cornell University)|Mar 16, 2023

Ethics and Social Impacts of AI被引用数 13

ひとこと要約

本論文は、悪用を防ぐためにAIの能力および一部の非AIの能力に対する標的化された制限を提案し、そのような介入が正当化される場合を評価する枠組みと分類法を構築する。

ABSTRACT

Artificial intelligence (AI) systems will increasingly be used to cause harm as they grow more capable. In fact, AI systems are already starting to be used to automate fraudulent activities, violate human rights, create harmful fake images, and identify dangerous toxins. To prevent some misuses of AI, we argue that targeted interventions on certain capabilities will be warranted. These restrictions may include controlling who can access certain types of AI models, what they can be used for, whether outputs are filtered or can be traced back to their user, and the resources needed to develop them. We also contend that some restrictions on non-AI capabilities needed to cause harm will be required. Though capability restrictions risk reducing use more than misuse (facing an unfavorable Misuse-Use Tradeoff), we argue that interventions on capabilities are warranted when other interventions are insufficient, the potential harm from misuse is high, and there are targeted ways to intervene on capabilities. We provide a taxonomy of interventions that can reduce AI misuse, focusing on the specific steps required for a misuse to cause harm (the Misuse Chain), and a framework to determine if an intervention is warranted. We apply this reasoning to three examples: predicting novel toxins, creating harmful images, and automating spear phishing campaigns.

研究の動機と目的

• AIの悪用は能力が向上するにつれて拡大すると動機づけ、標的化された能力制限が害を減らすことを提案する。
• コストとトレードオフを考慮しつつ、悪用を制限する介入の分類法を提案する。
• 能力を制限する正当性を判断するための枠組み（Misuse Chain）を構築する。
• 制限はAIの能力だけでなく、非AIの能力制御を含むこともあり得ると主張する。
• 実用的な指針を示すために、具体的な悪用事例に枠組みを適用する。

提案手法

• AIの悪用を特定の悪用プロセスの段階を標的にする介入の分類法を構築する。
• Misuse Chainフレームワークを導入し、どこで介入が害を阻止できるかをマッピングする。
• 能力制限が正当化される基準（リスク、他の介入の十分性、標的とした実現性）を論じる。
• 新規毒素予測、有害画像生成、自動的なスピアフィッシングの3つの悪用領域への適用を示す例を提供する。
• 選択的展開を正当化するために、能力制限とMisuse-Useのトレードオフを対比する。

実験結果

リサーチクエスチョン

• RQ1 悪用を防ぐためにAIの能力の制限が正当化される条件は何か？
• RQ2 能力制限はどのような形をとり得るか（例：アクセス、活動、出力、追跡性、リソース）そして非AI制限とどう相互作用するか？
• RQ3 体系的な枠組み（Misuse Chain）は、悪用事例全体にわたる介入の有効性と必要性をどう評価できるか？
• RQ4 標的化された能力制限が有益な使用を不当に妨げることなく害を減らせる具体例は何か？

主な発見

• 他の介入が不十分で悪用による潜在的な害が重大である場合、能力の標的化された制限が正当化され得る。
• 制限にはアクセス制御、許可される使用ケース、出力のフィルタリングまたは追跡性、リソースの制限が含まれることがある。
• 害を及ぼすための非AI能力への制限も必要となる場合がある。
• Misuse Chainフレームワークは、体系的に害を意味のある形で削減できる介入点を特定するのに役立つ。
• 毒物予測、有害画像生成、スピアフィッシングへ適用し、介入が悪用プロセスをどのように妨げるかを示す。