Dr. Asaf Tzachor, grundare av Aviram Sustainability and Climate Program vid Reichman University, tillsammans med forskare från USA, Storbritannien, Kenya, Nigeria och Colombia, granskade tillförlitligheten av informationen och professionella råd från den populära chatboten ChatGPT (versioner). 3,5 och 4,0) till bönder i Afrika. Forskarna identifierade felaktigheter som kunde leda till jordbruksfel och skördförluster.

I deras artikel för Nature Food , de varnar för den oförmedlade användningen av generativa AI-modeller i jordbruket, och fruktar att bönder kan implementera felaktiga rekommendationer som kan utlösa livsmedelskriser. Istället rekommenderar forskarna en mer optimal utvecklingsprocess för AI-modeller inom jordbruket som inkluderar noggrann övervakning och testning innan dessa modeller implementeras brett.

Strax efter lanseringen av ChatGPT i början av 2023 sammankallade Dr. Tzachor ett internationellt team av forskare från jordbruksforskningscentra i Nigeria, Kenya, Colombia, Frankrike, England och USA. De observerade att bönder i utvecklingsländer hade börjat konsultera modellen för artificiell intelligens för professionell rådgivning om agronom och botanik.

Dessa bönder, som kommer från små till medelstora gårdar i Ekvatorialafrika, Sydostasien och Sydamerika, har tillgång till Internet och OpenAI-användargränssnittet. Forskargruppen försökte bedöma om den innovativa chatboten kunde ersätta, eller till och med ersätta jordbruksförlängningsagenter som utbildar och konsulterar jordbrukare.

Dessa medel, kända som "extensionister", inkluderar hundratusentals professionella agronomer och botaniker, experter på växtsjukdomar och rådgivare om bevattning, gödsling, marknadsföring av produkter och handel.

"Extensionister har varit avgörande för att sprida avancerad jordbrukskunskap och i många fall vägleder småbönder runt om i världen att implementera metoder för hållbar intensifiering av grödor. De håller konferenser och seminarier om nya herbicider och bekämpningsmedel, ger råd om bevattnings- och gödslingsstrategier och planering. fältexperiment och rekommenderar lokala marknadsföringskanaler och exportstrategier för jordbruksprodukter", förklarar Dr. Tzachor.

Globalt behöver cirka 570 miljoner små och medelstora gårdar utbildning inom olika jordbruksområden. Extensionister står dock ofta inför betydande utmaningar, särskilt i utvecklingsländer. Dessa utmaningar inkluderar språkbarriärer, översättningsproblem, dålig väginfrastruktur, brist på kollektivtrafik och föråldrade eller obefintliga kommunikationsnätverk.

Jordbrukskonsulter kämpar för att nå små och avlägsna gårdar, medan småbönder i Afrika och Sydamerika har svårt att delta i professionella seminarier hundratals kilometer bort. Extensionsbyråer, ofta baserade i huvudstäder, saknar resurser och personal för att uppdatera sitt konsultmaterial och hålla sig uppdaterad med nya metoder.

Mot denna bakgrund undersökte forskargruppen om en generativ AI-modell kunde kompensera för bristen på jordbruksrådgivningstjänster. Men det som började med försiktig optimism slutade i missvisande, felaktigheter och skarpa varningar till användarna.

Först gav forskarna chatboten i uppdrag att rekommendera kontroll- och behandlingsåtgärder för hösten armyworm, en skadlig insekt som neutraliserar växternas försvarsmekanismer och orsakar miljarder dollar i skador på majsgrödor över hela världen. OpenAI:s äldre modeller (3.5 och 4.0) gav tvetydiga råd om användningen av bekämpningsmedel.

I en annan serie frågor, denna gång ställda av kassavarotodlare i Nigeria – Afrikas viktigaste kassavaproducent – ​​utvärderade forskarna rekommenderade metoder för att odla växten, som spelar en avgörande roll för näringstryggheten för tiotals miljoner människor på kontinenten. . I det här fallet föreslog ChatGPT användning av herbicider, men gjorde fel när det gällde tidpunkten för kemisk applicering, vilket skulle leda till skördeskador och livsmedelskriser om bönderna skulle följa dess råd.

"Problemet med våra fynd sträcker sig bortom felen i själva algoritmen", enligt Dr. Tzachor. "Många hade varnat oss för potentiella fel och felaktigheter. Det grundläggande problemet är avsaknaden av några skyddsåtgärder mot den utbredda användningen av stora språkmodeller, och AI mer allmänt, i ett så känsligt system som jordbruk.

"Det finns ingen tillsyn över hur sådana modeller används, ingen utvärdering av deras kontextspecifika lämplighet, ingen ansvarsskyldighet för konsekvenserna av felaktig användning eller för de åtgärder som vidtas baserat på deras rekommendationer, och i allmänhet inget ansvar." P>

"I fallet med den aktuella studien diskuterar vi inte att använda chatboten för att komponera en låt, ett manus eller en avhandling. Vi har att göra med livsmedelssäkerhet och förvaltning av gårdar. Även om tjusningen med algoritmen är tydlig , det innebär betydande risker."

Som svar på denna utmaning föreslog forskarna en idealiserad utvecklings- och distributionsprocess för generativa AI-modeller inom jordbruket.

Dr. Tzachor, tillförordnad dekanus för School of Sustainability och akademisk chef för Aviram Sustainability and Climate Program vid Reichman University, "Å ena sidan ser vi gårdar och extensionister som konsulterar den fritt tillgängliga AI-modellen. Å andra sidan, detta användning innebär fel, osäkerheter och uppskattningar som jordbruket inte kan tolerera.

"Skeptiker och kritiker talar om felaktigheter, men få tar upp konsekvenserna av dessa felaktigheter för utsatta befolkningsgrupper, som småbrukare, inom kritiska sektorer som jordbruket. Vidare kommer frågan om ansvar, frågan om vem som ansvarar för att säkerställa en säker användning av dessa modeller förblir i stort sett outforskade."

Mer information: A. Tzachor et al, Stora språkmodeller och jordbruksförlängningstjänster, Nature Food (2023). DOI:10.1038/s43016-023-00867-x

Journalinformation: Naturmat

Tillhandahålls av Reichman University