[論文レビュー] Case Repositories: Towards Case-Based Reasoning for AI Alignment

K. J. Kevin Feng, Quan Ze Chen+3 more|arXiv (Cornell University)|Nov 18, 2023

Artificial Intelligence in Law被引用数 5

ひとこと要約

本論文は、価値を伴うAI対話の分野固有の事例リポジトリを構築することで、AIの整合性を向上させるための事例ベース推論（CBR）フレームワークを提案する。専門家ワークショップ、LLMによる事例変種の生成、一般の人のクラウドソーシングを統合し、動的でコミュニティに根ざしたリポジトリを構築し、事例に基づく推論によって倫理的なAI行動を誘導する。これは、上位互換の憲法的AI手法に対する多様な代替手法を提供する。

ABSTRACT

Case studies commonly form the pedagogical backbone in law, ethics, and many other domains that face complex and ambiguous societal questions informed by human values. Similar complexities and ambiguities arise when we consider how AI should be aligned in practice: when faced with vast quantities of diverse (and sometimes conflicting) values from different individuals and communities, with whose values is AI to align, and how should AI do so? We propose a complementary approach to constitutional AI alignment, grounded in ideas from case-based reasoning (CBR), that focuses on the construction of policies through judgments on a set of cases. We present a process to assemble such a case repository by: 1) gathering a set of ``seed'' cases -- questions one may ask an AI system -- in a particular domain, 2) eliciting domain-specific key dimensions for cases through workshops with domain experts, 3) using LLMs to generate variations of cases not seen in the wild, and 4) engaging with the public to judge and improve cases. We then discuss how such a case repository could assist in AI alignment, both through directly acting as precedents to ground acceptable behaviors, and as a medium for individuals and communities to engage in moral reasoning around AI.

研究の動機と目的

• 上位互換の憲法的AI手法がヘゲモニックな価値を押し付けるリスクを抱えることへの対処として、現実の事例に基づく、補完的で事例に基づく方法を提唱すること。
• 多様な価値観と道徳的推論を反映する、スケーラブルで反復的な事例リポジトリ構築プロセスを開発すること。
• 抽象的な原則や好みのラベルに依存するのではなく、文脈的で価値を伴う判断から学ぶことができるAIシステムを実現すること。
• 分野専門家と一般の人々が事例評価に参加することで、倫理的AI行動を形作る中で、民主的参加を支援すること。
• 異なるモデルや分野で再利用可能な、モデルに依存しないポータブルなリソースとしての倫理的AIガイダンスの提供

提案手法

• ターゲット分野における現実のAI対話シナリオを表すために、オンラインディスカッション（例：Reddit）や既存の事例研究から「種まき」事例を収集する。
• AIの応答を評価するための分野固有の次元（例：公平性、自律性、害）を特定するために、専門家ワークショップを実施する。
• 種まき事例と専門家が特定した次元に基づいて、LLMを用いて合成的な事例変種を生成し、事例空間を体系的に拡張する。
• 一般の人々を対象としたクラウドソーシングを通じて、AIの応答の適切さを評価し、事例の質と多様性を向上させる。
• 実際のAI対話から得られる新しい事例を反復的に統合することで、リポジトリを継続的に拡張し、継続的な関連性と適応性を確保する。
• モデルに依存しないリソースとしてリポジトリを設計し、さまざまなLLMが共通の事例に基づいて検索・推論できるようにする。

(a) Kolodner (1992).

実験結果

リサーチクエスチョン

• RQ1 どのようにして、価値を伴う複雑な分野における倫理的AI統合を支援するための事例ベース推論を実務的に行えるか？
• RQ2 専門家から得た次元と一般の人の判断が、多様で価値を反映した事例リポジトリを構築する上で果たす役割は何か？
• RQ3 LLMを効率的に活用することで、倫理的ニュアンスや多様な視点の多様性を損なわずに、事例空間を拡張できるか？
• RQ4 どのような形で、事例リポジトリがAI開発における民主的道徳的推論の媒体として機能できるか？
• RQ5 どのようにして、異なるAIモデルや社会的文脈においても、ポータブルで再利用可能かつ適応可能な事例リポジトリを実現できるか？

主な発見

• 提案されたプロセスは、法律相談分野において多様で洗練された事例のセットを成功裏に生成し、実用的導入の可能性を示した。
• 専門家ワークショップから、AIの応答の倫理的評価を導く一貫性のある分野固有の次元（例：法的先例、クライアントの自律性）が明らかになった。
• LLMによって生成された事例変種は、文脈的・倫理的整合性を保ちつつ、事例空間を顕著に拡大した。
• 一般の人のクラウドソーシングは、専門家だけでは捉えきれない価値的対立を明らかにし、事例の質を向上させる貴重な多様な判断を提供した。
• 得られた事例リポジトリは、モデルに依存しない統合を可能にし、異なるLLMが共通の事例に基づいて検索・推論できるようにした。
• 反復的かつコミュニティ主導のプロセスにより、社会的価値の変化や新たなエッジケースへの対応に応じて、AI行動の継続的改善が可能になった。

(b) Craw & Aamodt (2018).