[论文解读] TRUCE: Private Benchmarking to Prevent Contamination and Improve Comparative Evaluation of LLMs

Rajore, Tanmay, Nishanth Chandran+5 more|arXiv (Cornell University)|Mar 1, 2024

International Arbitration and Investment LawBusiness, Management and Accounting被引用 3

一句话总结

本文提出了私有基准测试（Private Benchmarking）这一新框架，通过加密技术和可信执行环境（confidential computing）手段，将测试数据集对模型保持私密，从而防止大语言模型（LLM）基准测试数据污染。该框架支持安全、可审计的模型评估，且无需暴露数据，确保了可靠的对比评估，并降低了因预训练或微调过程中数据泄露带来的风险。

ABSTRACT

Benchmarking is the de-facto standard for evaluating LLMs, due to its speed, replicability and low cost. However, recent work has pointed out that the majority of the open source benchmarks available today have been contaminated or leaked into LLMs, meaning that LLMs have access to test data during pretraining and/or fine-tuning. This raises serious concerns about the validity of benchmarking studies conducted so far and the future of evaluation using benchmarks. To solve this problem, we propose Private Benchmarking, a solution where test datasets are kept private and models are evaluated without revealing the test data to the model. We describe various scenarios (depending on the trust placed on model owners or dataset owners), and present solutions to avoid data contamination using private benchmarking. For scenarios where the model weights need to be kept private, we describe solutions from confidential computing and cryptography that can aid in private benchmarking. We build an end-to-end system, TRUCE, that enables such private benchmarking showing that the overheads introduced to protect models and benchmark are negligible (in the case of confidential computing) and tractable (when cryptographic security is required). Finally, we also discuss solutions to the problem of benchmark dataset auditing, to ensure that private benchmarks are of sufficiently high quality.

研究动机与目标

• 为应对大语言模型预训练与微调过程中基准数据集污染日益严重的问题，该问题会损害模型评估的有效性。
• 开发一种安全的评估框架，确保模型在推理或训练过程中无法访问测试数据，从而实现数据完全隔离。
• 通过密码学审计机制建立对私有基准测试的信任，验证数据质量而不泄露完整数据集。
• 利用可信执行环境（TEEs）与零知识证明技术，支持开源、闭源及隐私保护等多种信任模型。
• 为跨行业、安全的基准测试平台奠定基础，其作用类似于计算机性能领域的SPEC或网络安全领域的Truste认证标志。

提出的方法

• 私有基准测试对测试数据集进行加密或密码学承诺，确保模型在评估过程中无法访问原始数据。
• 使用密码学承诺（如基于哈希的承诺）绑定基准数据点，使审计者可在不暴露完整数据集的前提下验证其质量。
• 采用零知识证明技术，证明审计阶段与评估阶段所使用的基准完全一致，防止恶意拥有者实施替换攻击。
• 利用可信执行环境（TEEs）安全托管模型，并在私有基准上执行评估，确保模型权重与数据均不外泄。
• 由审计者对已承诺的数据点进行随机抽样，以测试代表性子集，并对数据集质量提供统计保障。
• 集成安全多方计算与可信计算技术，支持模型权重必须保持私密的场景。

实验结果

研究问题

• RQ1 如何在评估过程中使大语言模型无法访问测试数据，从而防止其因在基准数据上预训练或微调而导致的数据污染？
• RQ2 哪些密码学与可信执行技术可确保私有基准在审计与评估阶段的完整性与一致性？
• RQ3 审计者如何在不访问完整数据集的前提下验证私有基准的质量？
• RQ4 在私有基准测试中，哪些信任模型是可行的？它们如何在隐私、安全与实用性之间取得平衡？
• RQ5 私有基准测试能否实现安全、跨行业的评估平台，且不损害企业的竞争优势？

主要发现

• 私有基准测试能有效防止模型访问测试数据，彻底消除因在基准数据上预训练或微调而导致的数据污染风险。
• 密码学承诺可使审计者以高置信度验证至少 α% 的数据集质量，错误概率约为 (α/100)^κ，其中 κ 为抽样点数。
• 零知识证明确保审计阶段与评估阶段使用的是同一份基准，防止恶意拥有者实施替换攻击。
• 基于 TEE 的解决方案通过支持安全评估而无需零知识证明，简化了验证流程。
• 该框架支持多种部署模式，包括开源模型、由可信拥有者管理的闭源模型，以及采用可信计算的隐私保护评估。
• 该方法可促成安全、可审计的基准测试平台建设，有望成为行业标准，其地位类似于 SPEC 或 Truste 认证标志。