[논문 리뷰] Case Repositories: Towards Case-Based Reasoning for AI Alignment

K. J. Kevin Feng, Quan Ze Chen외 3명|arXiv (Cornell University)|2023. 11. 18.

Artificial Intelligence in Law인용 수 5

한 줄 요약

이 논문은 가치 기반 AI 상호작용의 도메인 전용 사례 레포지터리 구축을 통해 AI 정렬을 향상시키기 위해 사례 기반 추론(CBR) 프레임워크를 제안한다. 전문가 워크숍, LLM 기반 사례 변형 생성, 공개 캐스크소싱을 통합하여 사회적 영향을 고려한 동적이고 공동체 기반의 레포지터리를 구축하며, 사례 기반 추론을 통해 윤리적 AI 행동을 이끌어내는 다원적 접근을 제시한다. 이는 상향식 헌법 기반 AI 접근 방식의 대안이 된다.

ABSTRACT

Case studies commonly form the pedagogical backbone in law, ethics, and many other domains that face complex and ambiguous societal questions informed by human values. Similar complexities and ambiguities arise when we consider how AI should be aligned in practice: when faced with vast quantities of diverse (and sometimes conflicting) values from different individuals and communities, with whose values is AI to align, and how should AI do so? We propose a complementary approach to constitutional AI alignment, grounded in ideas from case-based reasoning (CBR), that focuses on the construction of policies through judgments on a set of cases. We present a process to assemble such a case repository by: 1) gathering a set of ``seed'' cases -- questions one may ask an AI system -- in a particular domain, 2) eliciting domain-specific key dimensions for cases through workshops with domain experts, 3) using LLMs to generate variations of cases not seen in the wild, and 4) engaging with the public to judge and improve cases. We then discuss how such a case repository could assist in AI alignment, both through directly acting as precedents to ground acceptable behaviors, and as a medium for individuals and communities to engage in moral reasoning around AI.

연구 동기 및 목표

• 상향식 헌법 기반 AI 접근 방식이 지배적 가치를 강제할 수 있는 한계를 해결하기 위해, 실제 사례에 기반한 보완적이고 사례 중심의 방법을 제안함.
• 다양한 가치와 도덕적 사고 방식을 반영하는 사례 레포지터리 구축을 위한 확장 가능하고 반복적인 프로세스 개발.
• 추상적 원칙이나 선호도 레이블에만 의존하는 것이 아니라, 맥락적이고 가치 기반의 판단에서 배우는 AI 시스템의 구현.
• 도메인 전문가와 일반 대중이 사례 평가에 참여함으로써 윤리적 AI 행동을 형성하는 데 기여하는 민주적 참여 지원.
• 다양한 모델과 도메인에서 재사용 가능한 모델에 종속되지 않은 이식 가능 자원으로서 윤리적 AI 지침 제공.

제안 방법

• 목표 도메인 내 실제 AI 상호작용 시나리오를 반영하는 사례 레포지터리의 기초가 되는 '시드' 사례를 온라인 논의(예: Reddit) 및 기존 사례 연구에서 수집.
• AI 응답 평가에 사용되는 도메인 특화 차원(예: 공정성, 자율성, 피해)을 특정하기 위해 전문가 워크숍 실시.
• 시드 사례와 전문가가 특정한 차원을 기반으로 LLM을 활용해 사례 변형을 생성하여 사례 공간을 체계적으로 확장.
• 공개 캐스크소싱을 통해 AI 응답의 적절성에 대한 평가를 실시하고 사례 품질과 다양성을 향상.
• 실제 AI 상호작용에서 유래한 새로운 사례를 반복적으로 레포지터리에 통합하여 지속적인 관련성과 적응 가능성 확보.
• 다양한 LLM이 공통된 사례 기반 사례를 검색하고 추론할 수 있도록 레포지터리 구조 설계.

(a) Kolodner (1992).

실험 결과

연구 질문

• RQ1 어떻게 사례 기반 추론을 복잡하고 가치 기반의 도메인에서 윤리적 AI 정렬을 지원할 수 있는가?
• RQ2 전문가로부터 도출된 차원과 공개 평가가 다원적이고 가치를 반영하는 사례 레포지터리 구축에 어떤 역할을 할 수 있는가?
• RQ3 LLM을 어떻게 활용하여 윤리적 뉘앙스와 다양한 시각을 유지하면서 사례 공간을 효율적으로 확장할 수 있는가?
• RQ4 사례 레포지터리는 AI 개발에서 민주적 도덕적 사고의 매개체로 어떤 방식으로 기능할 수 있는가?
• RQ5 어떻게 사례 레포지터리를 다양한 AI 모델과 사회적 맥락에서 이식 가능하고 재사용 가능하며 적응 가능한 형태로 만들 수 있는가?

주요 결과

• 제안된 프로세스는 법적 조언 도메인에서 다양하고 세밀한 사례 집합을 성공적으로 생성하여 실질적 도입 가능성 입증.
• 전문가 워크숍을 통해 윤리적 AI 응답 평가를 이끄는 일관되고 도메인 특화된 차원(예: 법적 선례, 의뢰인 자율성)을 확인.
• LLM이 생성한 사례 변형은 윤리적 일관성과 맥락적 타당성을 유지하면서 사례 공간을 크게 확장.
• 공개 캐스크소싱을 통한 평가 결과는 사례 품질 향상과 전문가만으로는 포착되지 않은 가치 갈등을 드러내어 유의미한 기여.
• 결과로 도출된 사례 레포지터리는 모델에 종속되지 않으며, 다양한 LLM이 공통된 사례 기반 사례를 검색하고 추론할 수 있도록 지원.
• 반복적이고 공동체 기반의 프로세스를 통해 사회적 가치의 변화와 새로운 극단 케이스에 대응해 AI 행동을 지속적으로 개선할 수 있음.

(b) Craw & Aamodt (2018).