[论文解读] Promises and pitfalls of artificial intelligence for legal applications

Sayash Kapoor, Peter Henderson+1 more|arXiv (Cornell University)|Jan 10, 2024

Artificial Intelligence in Law被引用 7

一句话总结

本文认为AI尚未重新定义法律职业，并在信息处理、创造力/判断与预测等方面考察AI的用途，强调评估挑战并提出负责任部署的建议。

ABSTRACT

Is AI set to redefine the legal profession? We argue that this claim is not supported by the current evidence. We dive into AI's increasingly prevalent roles in three types of legal tasks: information processing; tasks involving creativity, reasoning, or judgment; and predictions about the future. We find that the ease of evaluating legal applications varies greatly across legal tasks, based on the ease of identifying correct answers and the observability of information relevant to the task at hand. Tasks that would lead to the most significant changes to the legal profession are also the ones most prone to overoptimism about AI capabilities, as they are harder to evaluate. We make recommendations for better evaluation and deployment of AI in legal contexts.

研究动机与目标

• 评估AI在信息处理、创造力/判断和预测应用等法律任务中能在哪些方面提供有意义的协助。
• 评估在每个任务类别中评估AI性能的难易程度。
• 识别常见评估陷阱并提出改进实际应用与安全性的做法。
• 在法律情境中部署AI时，重点关注构念有效性和相关方参与，推荐最佳实践。

提出的方法

• 将法律AI应用分为与Diver等人类型学对齐的三大类：信息处理、创造力/判断与预测。
• 讨论评估的难易程度和任务特征的可观察性，以评估各类别中的AI性能。
• 分析数据污染、构念有效性以及提示敏感性，作为法律任务中语言模型的核心评估挑战。
• 从法律与AI的角度综合建议，以提升构念有效性和现实世界的适用性。

实验结果

研究问题

• RQ1 AI应用于哪些主要法律任务类别？它们在可评估性上有何差异？
• RQ2 哪些评估挑战（例如数据污染、构念有效性、提示敏感性）会影响对法律任务中AI性能的评估？
• RQ3 哪些做法与环境能最大化在法律情境中对AI的可靠、安全部署？
• RQ4 应如何评估和部署AI，以避免在法律领域的过度乐观和误用？

主要发现

• 评估难易程度随任务而异；信息处理任务通常有更明确的正确答案和可观察的特征，便于更容易评估。
• 创造力、推理或判断任务没有单一正确答案，评估起来更困难，可能推动对AI在具有重大法律任务中的能力产生过度乐观。
• 生成式AI并非信息处理的革命，在某些任务中可能不及专门的、以法律为聚焦的工具。
• 评估问题如数据污染、构念有效性不足和提示敏感性可能夸大AI的表观性能并误导真实世界的有用性。
• 建议强调在评估中让法律专家参与，开发自然化且针对任务的评估，并向用户清晰传达AI的局限性。
• 在观察性高、评估健全的窄域、定义明确的场景中部署AI，以降低输出错误或有害结果的风险。