[論文レビュー] Caveat Lector: Large Language Models in Legal Practice

Eliza Mik|arXiv (Cornell University)|Mar 14, 2024

Artificial Intelligence in Law被引用数 6

ひとこと要約

要約: この論文は、LLMsは流暢な法的文を生成できる一方で意味を理解しておらず、幻覚を起こす可能性があり、限界を認識しなければ高リスクの法的タスクには信頼すべきでないと警告する。

ABSTRACT

The current fascination with large language models, or LLMs, derives from the fact that many users lack the expertise to evaluate the quality of the generated text. LLMs may therefore appear more capable than they actually are. The dangerous combination of fluency and superficial plausibility leads to the temptation to trust the generated text and creates the risk of overreliance. Who would not trust perfect legalese? Relying recent findings in both technical and legal scholarship, this Article counterbalances the overly optimistic predictions as to the role of LLMs in legal practice. Integrating LLMs into legal workstreams without a better comprehension of their limitations, will create inefficiencies if not outright risks. Notwithstanding their unprecedented ability to generate text, LLMs do not understand text. Without the ability to understand meaning, LLMs will remain unable to use language, to acquire knowledge and to perform complex reasoning tasks. Trained to model language on the basis of stochastic word predictions, LLMs cannot distinguish fact from fiction. Their knowledge of the law is limited to word strings memorized in their parameters. It is also incomplete and largely incorrect. LLMs operate at the level of word distributions, not at the level of verified facts. The resulting propensity to hallucinate, to produce statements that are incorrect but appear helpful and relevant, is alarming in high-risk areas like legal services. At present, lawyers should beware of relying on text generated by LLMs.

研究の動機と目的

• 法務ワークフローにおけるLLMの能力と限界を慎重に検討するよう促す。
• 法の中でのLLMの有用性に関する楽観的な予測を、欠陥の証拠で対になるよう反証する。
• 法務実務における非効率とリスクを回避するための、LLMsの情報に基づく統合を主張する。

提案手法

• 技術的・法的学術研究からLLMの限界に関する知見を統合する。
• 法的文脈における言語モデリングと理解／検証の間の不一致について概念的に論じる。
• 事実ベースまたは高リスクの法的タスクにおけるLLM依存のリスクを強調する。

実験結果

リサーチクエスチョン

• RQ1 法務実務に影響するLLMの限界は何か。
• RQ2 真の理解の欠如が法的テキストと推論を扱う能力にどのように影響するか。
• RQ3 高リスクの法的領域での幻覚と誤出力のリスクは何か。
• RQ4 非効率とリスクを避けるために、法的ワークフローへの統合ガイダンスは何が必要か？

主な発見

• LLMsはテキストを理解せず、知識を獲得したり複雑な推論を行うことができない。
• 法の知識は記憶された単語列に限ら、多くの場合不正確または不完全である。
• LLMsは検証済みの事実ではなく単語分布で動作するため、幻覚を引き起こす。
• 法的サービスにおけるLLM生成テキストへの依存は、高リスクと誤情報の可能性があるため危険を伴う。
• 限界を適切に理解せずにLLMsを法的ワークフローに組み込むと、非効率性やリスクを生み出す可能性がある。
• 弁護士は現時点でLLMが生成したテキストの使用には慎重であるべきだ。