[论文解读] Evaluating General-Purpose AI with Psychometrics

Xiting Wang, Liming Jiang+5 more|arXiv (Cornell University)|Oct 25, 2023

Explainable Artificial Intelligence (XAI)被引用 4

一句话总结

本文提出从面向任务的评估转向基于建构的评估通用人工智能，运用心理测量学原理识别并度量支撑AI性能的潜在认知建构。通过应用原本用于人类智力的心理测量学方法，实现对AI在未预见任务中的预测性、解释性和可靠性评估，为评估AI的通用性与能力提供科学基础。

ABSTRACT

Comprehensive and accurate evaluation of general-purpose AI systems such as large language models allows for effective mitigation of their risks and deepened understanding of their capabilities. Current evaluation methodology, mostly based on benchmarks of specific tasks, falls short of adequately assessing these versatile AI systems, as present techniques lack a scientific foundation for predicting their performance on unforeseen tasks and explaining their varying performance on specific task items or user inputs. Moreover, existing benchmarks of specific tasks raise growing concerns about their reliability and validity. To tackle these challenges, we suggest transitioning from task-oriented evaluation to construct-oriented evaluation. Psychometrics, the science of psychological measurement, provides a rigorous methodology for identifying and measuring the latent constructs that underlie performance across multiple tasks. We discuss its merits, warn against potential pitfalls, and propose a framework to put it into practice. Finally, we explore future opportunities of integrating psychometrics with the evaluation of general-purpose AI systems.

研究动机与目标

• 解决当前面向任务的基准在评估通用人工智能系统时的局限性。
• 提出一种基于心理测量科学的建构导向评估框架，用于度量潜在的AI能力。
• 提升AI评估的预测能力、解释能力与质量保障水平。
• 基于可度量的潜在建构，指导AI的选择、训练与集成。
• 识别并缓解在现实应用中因AI行为不可预见而带来的风险。

提出的方法

• 采用心理测量学原理，定义并度量支撑AI行为的潜在建构，类比于人类的认知能力。
• 利用多样化AI输出的实证数据，通过统计建模推断并验证建构。
• 设计三阶段评估框架：选择、训练与验证，基于建构测量进行设计。
• 将心理测量技术（如项目反应理论与验证性因子分析）拓展应用于AI评估。
• 整合建构测量的反馈，以优化AI训练并提升在目标建构上的表现。
• 重新诠释以人为中心的心理测量建构，适用于非人类AI系统，同时考虑提示敏感性与模型变异性。

Figure 1: Comparison of the task-oriented paradigm for AI evaluation and psychometrics.

实验结果

研究问题

• RQ1 心理测量方法如何提升AI评估的预测力与解释力，超越特定任务基准？
• RQ2 支撑通用人工智能系统多功能表现的潜在建构是什么？它们如何被可靠度量？
• RQ3 心理测量评估如何支持在高风险应用场景中AI系统的选型与训练？
• RQ4 直接将人类心理测量测试应用于AI系统评估存在哪些风险与局限？
• RQ5 心理测量评估如何确保AI评估在现实世界集成中的可靠性与有效性？

主要发现

• 心理测量评估通过识别可泛化至未见任务的潜在建构，展现出更优的预测能力。
• 建构导向的评估能够更深入解释AI在不同输入或提示下的性能差异。
• 该框架通过确保评估的可靠性和有效性，支持质量保障型测试，减少偏差与不一致性。
• 心理测量学可指导在大规模训练前，为特定角色（如法律助理）筛选高潜力AI系统。
• 该方法通过系统性建构测量，揭示AI系统的基本局限，如缺乏批判性思维能力。
• 将心理测量学整合至AI评估，为更负责任、透明且基于科学的AI开发实践铺平道路。

Figure 2: A framework for construct-oriented evaluation grounded in psychometrics, illustrated by an example of evaluating a general medical AI assistant, with exemplary psychometric techniques at each stage.