[논문 리뷰] Large language models can help boost food production, but be mindful of their risks

Djavan De Clercq, Elias Nehring외 2명|arXiv (Cornell University)|2024. 03. 20.

FinTech, Crowdfunding, Digital Finance인용 수 4

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)이 농업적 결정 지원, 혁신 가속화, 정책 지원을 통해 식량 생산을 크게 향상시킬 수 있는 双면적 잠재력을 다루며, 동시에 가짜 정보, 농민 데이터 남용, 일자리 대체, 비판적 사고를 약화시키는 과도한 의존성 등의 위험 요소에 대해 경고한다. LLM 통합이 끝나기 전에 사전적 정책 프레임워크 수립을 촉구한다.

ABSTRACT

Coverage of ChatGPT-style large language models (LLMs) in the media has focused on their eye-catching achievements, including solving advanced mathematical problems and reaching expert proficiency in medical examinations. But the gradual adoption of LLMs in agriculture, an industry which touches every human life, has received much less public scrutiny. In this short perspective, we examine risks and opportunities related to more widespread adoption of language models in food production systems. While LLMs can potentially enhance agricultural efficiency, drive innovation, and inform better policies, challenges like agricultural misinformation, collection of vast amounts of farmer data, and threats to agricultural jobs are important concerns. The rapid evolution of the LLM landscape underscores the need for agricultural policymakers to think carefully about frameworks and guidelines that ensure the responsible use of LLMs in food production before these technologies become so ingrained that policy intervention becomes challenging.

연구 동기 및 목표

• 대규모 언어 모델(Large Language Models, LLMs)이 농업 생산성 향상, 혁신, 정책 수립에 미치는 변혁적 잠재력을 평가하기 위해.
• 식량 시스템에 널리 도입되는 LLM과 관련된 직접적·간접적 위험 요소를 특정하고 분석하기 위해.
• 농업적 오락성 정보, 농민 데이터 수집, 일자리 대체, 농업적 결정에 대한 AI 의존도 증가 등에 대한 우려를 강조하기 위해.
• LLM 통합이 뿌리내리기 전에 농업 정책결정자들이 사전적 규제 프레임워크를 마련하도록 촉구하기 위해.

제안 방법

• 언론 보도, 학술 예인쇄물, 동료 심사 논문, 스타트업 혁신, 다른 분야에서의 LLM 도입 사례에서 도출된 통찰을 종합하기 위해.
• 미국 농업자격증(Certified Crop Advisor, CCA) 시험과 같은 표준화된 농업 시험에서 LLM의 성능 평가하기 위해.
• 농업인을 대상으로 한 지원을 제공하는 KissanGPT, Norm, Bayer의 LLM 기반 컨설턴트, FarmOn 등의 실제 LLM 응용 사례 분석하기 위해.
• 항공 분야의 자동화 의존성과 소프트웨어 개발의 코드 혼란 현상 등 다른 분야의 유사 사례를 통해 위험 요소 분석하기 위해.
• AI 생성 과학 콘텐츠 및 지적재산권 문제를 포함한 새로운 법적·윤리적 과제 검토하기 위해.
• 출판 스팸과 AI 생성 과학적 그림의 사례를 통해 농업 연구의 신뢰성에 대한 위험 요소를 설명하기 위해.

실험 결과

연구 질문

• RQ1 LLM은 어떻게 즉각적인 전문가 조언과 의사결정 지원을 통해 농업 생산성을 향상시킬 수 있는가?
• RQ2 식량 생산 시스템에 LLM을 통합함에 있어 주로 가짜 정보와 데이터 남용과 관련된 핵심적 위험 요소는 무엇인가?
• RQ3 LLM에 대한 과도한 의존이 농업 및 연구 분야에서 비판적 사고와 의사결정 능력을 얼마나 약화시키는가?
• RQ4 LLM은 농업 분야의 과학적 연구의 신뢰성, 특히 출판 품질과 동료 심사 과정에 어떤 영향을 미칠 수 있는가?
• RQ5 광범위한 도입 이전에 책임감 있고 공정한 LLM 사용을 보장하기 위해 필요한 정책 및 규제 프레임워크는 무엇인가?

주요 결과

• LLM은 미국 농업자격증(Certified Crop Advisor, CCA) 시험에서 전문가 수준의 성능을 보이며, 총 93%의 질문에 정확하게 답변했다.
• KissanGPT와 같은 응용은 저학력 농업인들이 현지 언어로 음성 기반 LLM 상호작용을 통해 맞춤형 농업 조언을 받을 수 있도록 한다.
• 농업 과학 분야에서 '출판 스팸'의 위험이 증가하고 있으며, 해부학적으로 잘못되었거나 비논리적인 내용을 담은 AI 생성 그림이 포함된 논문이 철회된 사례가 있다.
• 코딩 환경에서 LLM에 대한 과도한 의존은 코드 혼란 증가와 코드 품질 저하를 유도하며, 이는 모니터링되지 않을 경우 농업적 의사결정에도 동일한 경향을 빚을 수 있다.
• 항공기 조종사의 자동화 의존성 사례는 경고의 의미를 지닌다: LLM에 대한 과도한 의존은 농민의 상황 인식 능력과 실질적 의사결정 능력을 약화시킬 수 있다.
• 법적 도전 과제가 제기되고 있으며, 미국 대법원은 LLM이 특허의 발명자로 기재될 수 없다고 판결하여, AI 보강 농업 혁신에서 지적재산권 소유권에 대한 질문을 제기하고 있다.