[论文解读] Large language models can help boost food production, but be mindful of their risks

Djavan De Clercq, Elias Nehring+2 more|arXiv (Cornell University)|Mar 20, 2024

FinTech, Crowdfunding, Digital Finance被引用 4

一句话总结

本文探讨了大型语言模型（LLMs）在提升农业生产效率方面的双重潜力：通过改善农艺决策、加速创新和提供政策支持，显著提高粮食产量；同时警示了虚假信息、农民数据被剥削、工作岗位被取代以及过度依赖AI导致批判性思维能力下降等风险。文章呼吁在LLM整合成为不可逆之前，制定前瞻性政策框架。

ABSTRACT

Coverage of ChatGPT-style large language models (LLMs) in the media has focused on their eye-catching achievements, including solving advanced mathematical problems and reaching expert proficiency in medical examinations. But the gradual adoption of LLMs in agriculture, an industry which touches every human life, has received much less public scrutiny. In this short perspective, we examine risks and opportunities related to more widespread adoption of language models in food production systems. While LLMs can potentially enhance agricultural efficiency, drive innovation, and inform better policies, challenges like agricultural misinformation, collection of vast amounts of farmer data, and threats to agricultural jobs are important concerns. The rapid evolution of the LLM landscape underscores the need for agricultural policymakers to think carefully about frameworks and guidelines that ensure the responsible use of LLMs in food production before these technologies become so ingrained that policy intervention becomes challenging.

研究动机与目标

• 评估大型语言模型（LLMs）在提升农业生产力、创新和政策制定方面的变革潜力。
• 识别并分析广泛采用LLMs在食物系统中带来的直接与间接风险。
• 强调农业虚假信息、农民数据收集、岗位流失以及过度依赖AI进行农艺决策等关切。
• 敦促农业政策制定者在LLM整合根深蒂固之前，制定前瞻性监管框架。

提出的方法

• 综合媒体报告、学术预印本、同行评审文献、初创企业创新成果，以及LLMs在其他领域应用的经验教训。
• 评估LLMs在标准化农艺考试中的表现，包括美国注册作物顾问（CCA）认证考试。
• 分析KissanGPT、Norm、拜耳的LLM驱动顾问系统以及FarmOn等真实世界LLM应用，用于面向农民的农艺支持。
• 通过其他领域的类比分析风险，包括航空业的自动化依赖和软件开发中的代码频繁变更（code churn）。
• 审查新兴的法律与伦理挑战，包括AI生成的科学内容及知识产权问题。
• 类比出版 spam 和AI生成的科学图表，以说明农业研究完整性所面临的风险。

实验结果

研究问题

• RQ1 大型语言模型如何通过按需提供专家建议和决策支持，提升农业生产效率？
• RQ2 将LLMs整合到粮食生产系统中，其主要风险是什么，特别是虚假信息和数据剥削方面？
• RQ3 对LLMs的过度依赖在多大程度上会损害农业和科研中的批判性思维与决策能力？
• RQ4 LLMs将如何影响农业科研的完整性，包括出版质量与同行评审？
• RQ5 需要哪些政策与监管框架，以确保LLMs在农业中负责任且公平地使用，且在广泛采用之前建立保障？

主要发现

• LLMs在农艺认证考试中表现出专家水平，正确回答了美国注册作物顾问（CCA）考试93%的问题。
• KissanGPT等应用使低文化水平农民能够通过本地语言的语音交互式LLM对话，获取定制化农业建议。
• 农业科学领域正面临‘出版 spam’风险，AI生成的图表可能包含解剖上错误或无意义的内容，例如因AI生成的睾丸图像而被撤回的论文。
• 在编码环境中对LLMs的过度依赖会导致代码频繁变更和质量下降，若不加监控，这一趋势可能同样影响农艺决策。
• 飞行员对自动化的依赖为警示提供了类比：对LLMs的过度依赖可能削弱农民的情境意识和实际操作决策能力。
• 法律挑战正在浮现，例如美国最高法院裁定LLMs不能被列为专利的发明人，这引发了关于AI增强型农业创新中知识产权归属的疑问。