GPT在农业方面的不准确可能导致作物损失和粮食危机

Reichman大学Aviram可持续发展与气候项目创始人Asaf Tzachor博士与来自美国、英国、肯尼亚、尼日利亚和哥伦比亚的研究人员一起，仔细审查了流行的聊天机器人ChatGPT（3.5版和4.0版）向非洲农民提供的信息和专业建议的可靠性。研究人员发现了可能导致农业失误和作物损失的不准确之处

在他们为《自然食品》撰写的文章中，他们警告不要在农业中直接使用生成性人工智能模型，担心农民可能会实施有缺陷的建议，从而引发粮食危机。相反，研究人员建议为农业中的人工智能模型制定一个更优化的开发过程，包括在这些模型广泛实施之前进行彻底的监测和测试

2023年初，ChatGPT启动后不久，Tzachor博士召集了一个来自尼日利亚、肯尼亚、哥伦比亚、法国、英国和美国农业研究中心的国际研究团队。他们观察到，发展中国家的农民已经开始咨询人工智能模型，以获得农学和植物学方面的专业建议

这些农民来自赤道非洲、东南亚和南美洲的中小型农场，可以访问互联网和OpenAI用户界面。研究团队试图评估创新聊天机器人是否可以取代甚至取代培训和咨询农民的农业推广代理

这些被称为“延伸学家”的代理人包括数十万专业农学家和植物学家、植物疾病专家以及灌溉、施肥、农产品营销和贸易顾问

Tzachor博士解释道：“推广者在传播先进农业知识方面至关重要，在许多情况下，他们指导世界各地的小农户实施作物可持续集约化的方法。他们举办关于新型除草剂和杀虫剂的会议和研讨会，就灌溉和施肥策略以及规划田间试验提供建议，并建议当地的农产品营销渠道和出口策略。”

在全球范围内，约有5.7亿中小型农场需要在各个农业领域接受培训。然而，延伸主义者往往面临重大挑战，尤其是在发展中国家。这些挑战包括语言障碍、翻译问题、糟糕的道路基础设施、缺乏公共交通以及过时或不存在的通信网络

农业顾问很难接触到偏远的小农场，而非洲和南美洲的小农户很难参加数百公里外的专业研讨会。推广机构通常设在首都城市，缺乏资源和人员来更新咨询材料并跟上新方法的步伐

在这种背景下，研究团队探索了生成性人工智能模型是否可以弥补农业咨询服务的不足。然而，最初的谨慎乐观最终导致了对用户的误导、不准确和严厉警告

首先，研究人员让聊天机器人为秋粘虫推荐控制和治疗措施。秋粘虫是一种有害昆虫，可以中和植物的防御机制，并对全球玉米作物造成数十亿美元的损失。OpenAI的旧模型（3.5和4.0）提供了关于杀虫剂使用的模糊建议

在另一系列问题中，这一次是由尼日利亚的木薯根农民提出的&mdash；非洲最重要的木薯生产国&mdash；研究人员评估了推荐的种植方法，这种植物对非洲大陆数千万人的营养安全起着至关重要的作用。在这种情况下，ChatGPT建议使用除草剂，但在化学应用的时机上犯了错误，如果农民听从其建议，这将导致作物损失和粮食危机

Tzachor博士表示：“我们发现的问题超出了算法本身的错误。”。“许多人已经就潜在的错误和不准确向我们发出了警告。根本问题是，在像农业这样敏感的系统中，没有任何保护措施来防止大型语言模型和更广泛的人工智能的广泛使用。

”没有对此类模型的使用方式进行监督，没有对其特定环境的适用性进行评估，没有对错误使用的后果或根据其建议采取的行动负责，总体而言，没有承担责任

“就目前的研究而言，我们并没有讨论使用聊天机器人来创作歌曲、剧本或论文。我们正在处理粮食安全和农场管理问题。虽然该算法的吸引力很明显，但它涉及到巨大的风险。”

为了应对这一挑战，研究人员提出了一个理想化的农业生成人工智能模型的开发和部署过程

赖克曼大学可持续发展学院代理院长兼Aviram可持续发展与气候项目学术主任Tzachor博士，“一方面，我们看到农场和推广人员在咨询免费提供的人工智能模型。另一方面，这种使用涉及农业无法容忍的错误、不确定性和估计。

”怀疑论者和批评者谈论不准确之处，但很少有人讨论这些不准确之处对农业等关键部门的弱势群体（如小农户）的影响。此外，责任问题，即谁负责确保安全使用这些模式的问题，在很大程度上仍未得到审查。