[論文レビュー] Large language models can help boost food production, but be mindful of their risks

Djavan De Clercq, Elias Nehring+2 more|arXiv (Cornell University)|Mar 20, 2024

FinTech, Crowdfunding, Digital Finance被引用数 4

ひとこと要約

この論文は、大規模言語モデル（LLMs）が、農業的意思決定の改善、イノベーションの加速、政策支援を通じて、食料生産を著しく向上させる二面性を検討している。一方で、誤情報、農業者データの搧瀬、職業の置換、意思決定における過剰な依存が批判的思考を損なうリスクについても警告している。LLM統合が不可逆的になる前に、能動的な政策枠組みの構築が急務であると提言している。

ABSTRACT

Coverage of ChatGPT-style large language models (LLMs) in the media has focused on their eye-catching achievements, including solving advanced mathematical problems and reaching expert proficiency in medical examinations. But the gradual adoption of LLMs in agriculture, an industry which touches every human life, has received much less public scrutiny. In this short perspective, we examine risks and opportunities related to more widespread adoption of language models in food production systems. While LLMs can potentially enhance agricultural efficiency, drive innovation, and inform better policies, challenges like agricultural misinformation, collection of vast amounts of farmer data, and threats to agricultural jobs are important concerns. The rapid evolution of the LLM landscape underscores the need for agricultural policymakers to think carefully about frameworks and guidelines that ensure the responsible use of LLMs in food production before these technologies become so ingrained that policy intervention becomes challenging.

研究の動機と目的

• 大規模言語モデル（LLMs）が農業生産性、イノベーション、政策立案の分野における変革的潜在能力を評価すること。
• 食料システムにおけるLLMの広範な採用に関連する直接的および間接的リスクを特定・分析すること。
• 農業的誤情報、農業者データ収集、職業の置換、農業的意思決定におけるAIへの過剰な依存といった懸念を強調すること。
• 農業政策立案者が、LLM統合が定着する前に能動的な規制枠組みを構築するよう促すこと。

提案手法

• マスメディア報道、学術プレプリント、査読付き論文、スタートアップのイノベーション、他の分野におけるLLM導入の教訓を統合する。
• 米国公認農業コンサルタント（CCA）資格試験を含む標準化された農業学試験におけるLLMのパフォーマンスを評価する。
• 農業者向けの農業的支援を提供するKissanGPT、Norm、BayerのLLM搭載アドバイザー、FarmOnなどの実世界のLLM応用事例を分析する。
• 航空業界における自動化依存やソフトウェア開発におけるコードの混沌（code churn）といった他の分野の類似事例を通じてリスクを検証する。
• 新興する法的・倫理的課題、例えばAI生成科学的コンテンツや知的財産権問題をレビューする。
• 出版スパムやAI生成科学的画像の例を用いて、農業研究の整合性におけるリスクを説明する。

実験結果

リサーチクエスチョン

• RQ1 LLMsは、オンデマンドの専門家アドバイスと意思決定支援を通じて、どのように農業生産性を向上させられるか？
• RQ2 食料生産システムへのLLM統合に関連する主なリスク、特に誤情報とデータ搧瀬のリスクは何か？
• RQ3 LLMへの過剰な依存が、農業および研究分野における批判的思考と意思決定能力にどの程度悪影響を及えるか？
• RQ4 LLMsは、農業分野の科学的研究の整合性、特に論文の質と査読プロセスにどのような影響を及えるか？
• RQ5 広範な採用が進む前に、農業分野におけるLLMの責任あるかつ公平な利用を確保するための政策的・規制的枠組みは何か？

主な発見

• LLMsは、米国公認農業コンサルタント（CCA）試験において、93％の正答率で専門家水準のパフォーマンスを示した。
• KissanGPTのようなアプリケーションにより、低学力層の農業者が現地言語で音声ベースのLLM対話により、カスタマイズされた農業アドバイスにアクセスできるようになった。
• 農業科学分野における「出版スパム」のリスクが高まっている。AI生成画像に解剖学的に誤った内容や意味のない内容が含まれており、AI生成の精巣画像が原因で論文が撤回された事例も確認された。
• コーディング環境におけるLLMへの過剰な依存は、コードの混沌（code churn）を増加させ、コード品質を低下させる傾向にある。この傾向は、監視がなければ農業的意思決定分野にも同様に拡大する可能性がある。
• 航空業界のパイロットの自動化依存は、警告の例として役立つ。LLMへの過剰な依存は、農業者が状況認識能力や実地意思決定スキルを損なう可能性がある。
• 法的課題が顕在化しており、米国最高裁判所の判決ではLLMが特許の発明者として記載できないとされた。これにより、AI補助農業イノベーションにおける知的財産権の所有に関する疑問が浮上している。