[論文レビュー] Regulating AI: Applying insights from behavioural economics and psychology to the application of article 5 of the EU AI Act

Huixin Zhong, O'Neill, Eamonn+1 more|arXiv (Cornell University)|Jul 24, 2023

Digital Transformation in LawEconomics, Econometrics and Finance被引用数 3

ひとこと要約

本稿は行動経済学および認知心理学を応用し、EU AI規制法第5条における「微細な」「操作的な」「だましの」技術の明確化と強化を図る。『微細な』技術として3つ、『操作的な』技術として5つを特定し、法的保護の強化を目的とした具体的な条文改正を提言する。

ABSTRACT

Article 5 of the European Union's Artificial Intelligence Act is intended to regulate AI use to prevent potentially harmful consequences. Nevertheless, applying this legislation practically is likely to be challenging because of ambiguously used terminologies and because it fails to specify which manipulation techniques may be invoked by AI, potentially leading to significant harm. This paper aims to bridge this gap by defining key terms and demonstrating how AI may invoke these techniques, drawing from insights in psychology and behavioural economics. First, this paper provides definitions of the terms "subliminal techniques", "manipulative techniques" and "deceptive techniques". Secondly, we identified from the literature in cognitive psychology and behavioural economics three subliminal and five manipulative techniques and exemplify how AI might implement these techniques to manipulate users in real-world case scenarios. These illustrations may serve as a practical guide for stakeholders to detect cases of AI manipulation and consequently devise preventive measures. Article 5 has also been criticised for offering inadequate protection. We critically assess the protection offered by Article 5, proposing specific revisions to paragraph 1, points (a) and (b) of Article 5 to increase its protective effectiveness.

研究の動機と目的

• EU AI規制法第5条における『微細な』『操作的な』『だましの』技術といった用語の曖昧さを解消すること。
• AIシステムがユーザーに影響を与えるために利用する可能性のある、具体的な心理的・行動的技法を同定・定義すること。
• AIがこれらの技法をどのように実世界の応用で使用し、ユーザーに損害を及ぼす可能性があるかを示す、実際の事例を提示すること。
• 現在の第5条の保護範囲を批判的に検討し、その効果を高めるための具体的な条文改正を提言すること。
• 規制当局、開発者、監査機関が、根拠に基づく基準を用いてAIの操作を検出・防止できるように支援すること。

提案手法

• 認知心理学および行動経済学の知見を用いて、『微細な技法』『操作的技法』『だましの技法』を定義した。
• 学術文献の調査を通じて、実証的根拠を持つ3つの微細な技法および5つの操作的技法を同定・分類した。
• 各技法を、実世界の応用例（例：レコメンデーションシステム、チャットボット）におけるAI実装シナリオにマッピングした。
• 第5条第1項の(a)および(b)の条文を分析し、法的保護におけるギャップを評価した。
• 心理的メカニズムに基づき、明確性、範囲、実効性を向上させるために、第5条の具体的な条文改正を提案した。
• 事例に基づく推論を用いて、定義された技法がどのようにユーザーに損害を及える可能性があるかを示し、規制設計を支援した。

実験結果

リサーチクエスチョン

• RQ1 AIシステムにおける『微細な』『操作的な』『だましの』技法を構成する心理的・行動的メカニズムは何か？
• RQ2 AIシステムは、実世界の応用でこれらの技法をどのように実装し、ユーザーの意思決定に影響を与えることができるか？
• RQ3 EU AI規制法第5条の現在の条文には、こうした技法に対する保護の観点でどのような欠陥があるか？
• RQ4 第5条の法的言語は、これらのAIによる影響メカニズムをより的確に捉え、規制できるようにどのように改正できるか？
• RQ5 同定された技法は、現在の規制枠組み下で、ユーザーに深刻な損害を及ぼすおそれがあるとされる程度はどの程度か？

主な発見

• 心理的根拠を持つ3つの微細な技法（プロミング、感覚過多、時間的フレーミング）が、AIへの適用可能性を有することが同定された。
• 行動経済学の広範な支持を得ており、AIシステムに適用可能な5つの操作的技法（デフォルトバイアス、希少性、社会的証明、損失回避、選択肢の設計）が同定された。
• 事例シナリオにより、AIシステムがデジタル広告、金融アドバイス、コンテンツレコメンデーション分野でこれらの技法を活用し、ユーザーの意思決定を微妙に操作することが可能であることが示された。
• 現在の第5条の条文、特に第1項の(a)および(b)の条項は、主要な操作メカニズムを明確に定義または禁止しておらず、法的保護が不十分である。
• 特に損失回避やデフォルトバイアスといった心理的メカニズムを明示的に言及することで、第5条の条文改正を具体的に提言した。
• 行動科学の知見を規制言語に統合することで、AI操作規制の検出可能性および実効性を著しく向上させることができる。