[논문 리뷰] Evaluating General-Purpose AI with Psychometrics

Xiting Wang, Liming Jiang외 5명|arXiv (Cornell University)|2023. 10. 25.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 논문은 일반 목적의 AI 평가 방식을 과제 중심에서 구성 중심으로 전환하여, AI 성능의 잠재적 인지 구조를 규명하고 측정하기 위해 심리측정 원리를 적용한다. 원래 인간 지능을 위해 개발된 심리측정 기법을 적용함으로써, 예측 가능하고 설명 가능하며 신뢰할 수 있는 AI 평가가 가능해지며, 사전에 정의된 벤치마크를 초월해 다양한 과제에 대한 유연성과 능력을 과학적으로 평가할 수 있는 기반을 마련한다.

ABSTRACT

Comprehensive and accurate evaluation of general-purpose AI systems such as large language models allows for effective mitigation of their risks and deepened understanding of their capabilities. Current evaluation methodology, mostly based on benchmarks of specific tasks, falls short of adequately assessing these versatile AI systems, as present techniques lack a scientific foundation for predicting their performance on unforeseen tasks and explaining their varying performance on specific task items or user inputs. Moreover, existing benchmarks of specific tasks raise growing concerns about their reliability and validity. To tackle these challenges, we suggest transitioning from task-oriented evaluation to construct-oriented evaluation. Psychometrics, the science of psychological measurement, provides a rigorous methodology for identifying and measuring the latent constructs that underlie performance across multiple tasks. We discuss its merits, warn against potential pitfalls, and propose a framework to put it into practice. Finally, we explore future opportunities of integrating psychometrics with the evaluation of general-purpose AI systems.

연구 동기 및 목표

• 현재의 과제 중심 벤치마크가 일반 목적의 AI 시스템 평가에 한계를 보이고 있는 문제를 해결하기 위해.
• 잠재적 AI 능력을 측정하기 위해 심리측정 과학에 기반한 구성 중심 평가 프레임워크를 제안하기 위해.
• AI 평가의 예측 능력, 설명 능력 및 품질 보증 수준을 향상시키기 위해.
• 측정 가능한 잠재적 구성 요소를 바탕으로 AI 선택, 훈련 및 통합을 이끌기 위해.
• 실제 응용에서 뜻밖의 AI 행동과 관련된 위험을 규명하고 완화하기 위해.

제안 방법

• 심리측정 원리를 적용하여 AI 행동의 배경이 되는 잠재적 구성 요소를 정의하고 측정하며, 이를 인간의 인지 능력과 유사하게 다룬다.
• 다양한 AI 출력에서 수집한 실증 데이터를 바탕으로 통계 모델링을 통해 구성 요소를 추론하고 검증한다.
• 구성 측정에 기반한 세 단계 평가 프레임워크(선별, 훈련, 검증)를 설계한다.
• AI 평가에 대해 항목 반응 이론과 확인적 요인 분석와 같은 심리측정 기법을 확장 적용한다.
• 구성 측정에서 유도된 피드백을 통합하여 AI 훈련을 최적화하고 목표 구성 요소에서의 성능을 향상시킨다.
• 프롬프트 민감성과 모델 변동성을 고려하면서도 비인간적 AI 시스템에 대해 인간 중심의 심리측정 구성 요소를 재해석한다.

Figure 1: Comparison of the task-oriented paradigm for AI evaluation and psychometrics.

실험 결과

연구 질문

• RQ1 심리측정 기법은 과제 중심의 벤치마크를 초월해 AI 평가의 예측력과 설명력을 어떻게 향상시킬 수 있는가?
• RQ2 일반 목적의 AI 시스템이 다재다능하게 작동하는 데 배경이 되는 잠재적 구성 요소는 무엇이며, 어떻게 신뢰성 있게 측정할 수 있는가?
• RQ3 심리측정 평가가 고위험 응용 분야에서 AI 시스템의 선택과 훈련을 어떻게 지원할 수 있는가?
• RQ4 인간의 심리측정 테스트를 직접적으로 AI 시스템 평가에 적용할 때의 위험과 한계는 무엇인가?
• RQ5 심리측정 평가는 실제 통합 환경에서 AI 평가의 신뢰성과 타당성을 어떻게 확보할 수 있는가?

주요 결과

• 심리측정 평가는 예측 능력이 뛰어나며, 새로운 과제에 일반화되는 잠재적 구성 요소를 규명함으로써 초월적 성능을 가능하게 한다.
• 구성 중심 평가 방식은 다양한 입력 또는 프롬프트에 따른 AI 성능 변동을 더 깊이 있게 설명할 수 있다.
• 이 프레임워크는 신뢰성과 타당성을 확보하는 품질 보증 테스트를 지원하여 편향과 일관성 없는 평가를 줄인다.
• 심리측정 기법은 사전 훈련 없이도 법률 보조원과 같은 특정 역할에 적합한 고잠재력 AI 시스템을 선별하는 데 도움을 줄 수 있다.
• 체계적인 구성 측정을 통해 AI 시스템의 근본적 한계, 예를 들어 비판적 사고 능력의 부족을 드러낸다.
• 심리측정 기법을 AI 평가에 통합함으로써 더 책임감 있고 투명하며 과학적으로 기반을 둔 AI 개발 관행의 길을 열어 놓는다.

Figure 2: A framework for construct-oriented evaluation grounded in psychometrics, illustrated by an example of evaluating a general medical AI assistant, with exemplary psychometric techniques at each stage.