Un fermier a ascultat de inteligența artificială și a pierdut recolta de pe 10 hectare. Confuzia făcută de IA

Un fermier din China a afirmat că a pierdut mai mult de 10 hectare de recoltă peste noapte, după ce a urmat sfaturile primite de la un chatbot bazat pe inteligență artificială (IA).

Chatbot-urile bazate pe IA, contrar impresiei unora, nu sunt „mașini ale adevărului”. 

Acestea sunt antrenate pe seturi mari de date alcătuite (în mare parte) din informații generate de oameni, învață tiparele prin care cuvintele și propozițiile se îmbină, iar apoi generează cuvinte în ordinea pe care algoritmul o prezice ca fiind cea mai plăcută pentru utilizatorul cu care „conversează”.

Inteligența artificială poate avea „halucinații” 

Uneori, acest lucru coincide cu adevărul, dar nu întotdeauna. Un studiu internațional recent, de exemplu, a constatat că 45% dintre răspunsurile oferite de IA prezentau cel puțin o problemă semnificativă, iar 20% dintre acestea conțineau „halucinații”, așa cum se spune atunci când IA-ul începe să debiteze absurdități inventate.

Este un aspect oarecum îngrijorător, având în vedere că unele studii arată că una din șapte persoane a folosit inteligența artificială pentru a obține sfaturi medicale, iar alte studii indică faptul că utilizatorii vulnerabili, cu un nivel mai scăzut de cunoaștere a limbii engleze sau cu un nivel de educație mai redus, primesc adesea informații mai puțin precise decât ceilalți.

Citește și: Inteligența Artificială dă răspunsuri diferite șefilor față de subordonați. De ce IA ține cont de ierarhie?

De multe ori, acest lucru s-ar putea să nu aibă consecințe prea grave. Dacă întrebi „câte pietre ar trebui să mănânc?” în glumă, de exemplu, probabil că ești încă suficient de rațional încât să știi să nu ai încredere în răspunsul „cel puțin una”. 

Dar, ocazional, având în vedere numărul mare de persoane expuse la IA fie din proprie inițiativă, fie din cauza insistenței companiilor de tehnologie precum Google, aceste răspunsuri pot avea consecințe negative în viața reală.

Înapoi la agricultură. Potrivit unor surse din China continentală, citate de publicația taiwaneză CTWant, un fermier în vârstă de 67 de ani din Chuzhou a ajuns să se bazeze pe sfaturile oferite de inteligența artificială pe parcursul a câteva luni. 

Se pare că bărbatul a folosit un chatbot al cărui nume nu a fost dezvăluit pentru a-și organiza programul de lucru la fermă, precum și pentru a obține sfaturi privind îngrășămintele. 

Deși la început era sceptic față de aceste sfaturi, a ajuns să aibă încredere în răspunsurile pe care le primea de la IA.

În luna iulie 2026, se pare că a plătit un preț foarte mare pentru încrederea acordată chatbotului, după ce a cerut sfaturi privind combaterea dăunătorilor din cultura sa de susan. 

Conform International Business Times, chatbotul i-a recomandat flupirimetalin și fomesafen, amestecate cu tiametoxazină și sare de metil, substanțe pe care fermierul le-a pulverizat apoi asupra culturilor sale de susan fără a solicita sfatul unui specialist.

A doua zi, fermierul ar fi constatat că aproximativ 10 hectare (100.000 de metri pătrați) din culturile sale fuseseră distruse.

După aceasta, bărbatul a apelat din nou la chatbot pentru a afla care ar putea fi problema. 

De data aceasta, acesta s-a dovedit mai util, identificând faptul că fomesafenul este un erbicid utilizat pe scară largă pentru combaterea buruienilor cu frunze late, adesea în culturile de soia. 

Deoarece susanul este o specie cu frunze late, chatbotul l-a informat pe fermier (din nou, fără nicio garanție privind veridicitatea informației) că nu era indicată utilizarea unui erbicid destinat speciilor cu frunze late.

„Dacă îl pulverizezi, a doua zi răsadurile nu vor supraviețui”, a declarat fermierul pentru CTWant. „Atât iarba, cât și răsadurile vor muri, iar răsadurile vor muri chiar mai repede.”

Citește și: Etichetarea conținutului generat de AI devine obligatorie. UE reglementează inteligența artificială

Aceasta nu este nici pe departe prima eroare a inteligenței artificiale care a avut consecințe în lumea reală și nici nu va fi ultima. 

Ca exemplu ce a ajuns să fie supus evaluării inter pares, un raport de caz descrie situația unui bărbat căruia i s-a recomandat să înlocuiască clorura de sodiu cu toxica bromură de sodiu, cu rezultate dezastruoase, așa cum era de așteptat.