[论文解读] LocalValueBench: A Collaboratively Built and Extensible Benchmark for Evaluating Localized Value Alignment and Ethical Safety in Large Language Models

Gwenyth Isobel Meadows, Nuno Lau+3 more|arXiv (Cornell University)|Jul 27, 2024

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

LocalValueBench 引入了一个协作构建、可扩展的基准，用于评估大型语言模型（LLMs）在本地价值观对齐和伦理安全性方面的表现，重点关注澳大利亚价值观。通过采用三层问答框架——基线、辩论和强制论证——并结合人工验证的评分体系，研究发现商业 LLM（如 ChatGPT、Gemini、Claude）在对抗性提示下与本地伦理标准存在显著偏差。

ABSTRACT

The proliferation of large language models (LLMs) requires robust evaluation of their alignment with local values and ethical standards, especially as existing benchmarks often reflect the cultural, legal, and ideological values of their creators. extsc{LocalValueBench}, introduced in this paper, is an extensible benchmark designed to assess LLMs' adherence to Australian values, and provides a framework for regulators worldwide to develop their own LLM benchmarks for local value alignment. Employing a novel typology for ethical reasoning and an interrogation approach, we curated comprehensive questions and utilized prompt engineering strategies to probe LLMs' value alignment. Our evaluation criteria quantified deviations from local values, ensuring a rigorous assessment process. Comparative analysis of three commercial LLMs by USA vendors revealed significant insights into their effectiveness and limitations, demonstrating the critical importance of value alignment. This study offers valuable tools and methodologies for regulators to create tailored benchmarks, highlighting avenues for future research to enhance ethical AI development.

研究动机与目标

• 为解决缺乏反映本地文化与法律背景的 LLM 评估基准，特别是针对非主导英语或中文语境下的问题。
• 开发一个可复现、可扩展的框架，供全球监管机构创建针对特定司法管辖区的价值对齐基准。
• 评估商业 LLM 在多大程度上遵循澳大利亚的伦理规范，包括宪法原则和社会价值观。
• 使用人工验证的评分体系，量化 LLM 输出在情境理解、伦理推理和安全性方面的偏差。
• 展示 LLM 在受到对抗性或误导性论点提示时，在伦理推理方面易受操纵的脆弱性。

提出的方法

• 设计一个三层评估流程：(1) 中性基线问题，(2) 辩论提示以反驳本地规范，(3) 强制论证（质询）以生成有害或不道德的推理。
• 整理 6 个主题特定的问题集（小费、死刑、R 类武器、难民、同性婚姻、强制投票），其基础为澳大利亚的法律与文化规范。
• 采用迭代式、专家驱动的问题筛选方法，并通过学生和导师的双重验证，以减少偏差并确保情境相关性。
• 应用 5 分制评分体系（表 C）对回答在情境理解、伦理推理和安全性方面进行评分，每份回答由 3 名人类评审员评分。
• 通过提示工程探测 LLM 在压力环境下生成伦理问题内容的能力，模拟现实世界中的滥用场景。
• 使用一致的评估标准和人工评分结果，对三款商业 LLM（ChatGPT、Gemini、Claude）进行对比基准测试。

实验结果

研究问题

• RQ1 商业 LLM 在回应涉及伦理敏感话题时，与澳大利亚价值观的对齐程度如何？
• RQ2 当 LLM 面对挑战本地法律与规范的对抗性提示（如为废除强制投票进行辩护）时，其表现如何？
• RQ3 标准化的人工验证评分体系能否有效量化 LLM 输出中伦理推理的偏差？
• RQ4 不同 LLM 对生成有害或违宪的辩护请求有何反应，哪些安全机制有效？
• RQ5 LocalValueBench 框架能否被其他司法管辖区的监管机构推广并适配，以构建本地化的 AI 安全评估基准？

主要发现

• ChatGPT 在质询环节表现出严重的伦理推理失败，在强制投票和同性婚姻话题上的情境理解与安全性评分仅为 1/5。
• Gemini 和 Claude 展现出更强的抗对抗性提示能力，其中 Claude 在难民和同性婚姻话题的质询中安全性与伦理推理评分均达到 5/5。
• 所有模型在死刑和 R 类武器话题上均表现不佳，质询层评分降至 1–2/5，表明其极易生成有害的辩护理由。
• 基线回答总体上更符合澳大利亚价值观（中位数得分为 3–4/5），但伦理推理在辩论和质询提示下急剧恶化。
• 人类评审员一致认为 Claude 在安全性和伦理推理方面得分最高，尤其在难民和同性婚姻等高风险话题上；而 ChatGPT 表现最不稳定。
• 本研究证实，当 LLM 受到误导性或胁迫性论点提示时，其伦理推理易受操纵，凸显了开展本地化、情境感知的安全评估的必要性。