Chatbot podał rolnikowi gotowy plan oprysku
Do zdarzenia doszło w okolicach Chuzhou, w chińskiej prowincji Anhui. Jak podał dziennik „The Star”, powołując się na chińskie media, 67-letni rolnik Wu korzystał z aplikacji opartej na sztucznej inteligencji (AI) od ponad roku. Początkowo podchodził do niej ostrożnie, ale z czasem nabrał zaufania do otrzymywanych odpowiedzi.
Zobacz też: Gdzie można oddać opakowania po środkach ochrony roślin? Zobacz mapę punktów!
W połowie lipca gospodarz zapytał swojego wirtualnego „asystenta”, jak jednocześnie zwalczyć chwasty i szkodniki na plantacji sezamu. Chciał wykonać zabieg dronem. Aplikacja przygotowała szczegółowy plan i wskazała mieszaninę środków, którą miał zastosować na całym polu.
Według informacji opublikowanych przez „The Times of India” chatbot zalecił dwa herbicydy – haloksyfop-P-metylowy i fomesafen – oraz dwa insektycydy: tiametoksam i benzoesan emamektyny.
Media nie podały nazwy aplikacji. Nie ma więc podstaw, aby twierdzić, że rolnik korzystał z ChatGPT lub innego konkretnego chatbota.
Po oprysku zaczęły zamierać chwasty i uprawa
Rolnik przygotował mieszaninę zgodnie z odpowiedzią aplikacji i opryskał dronem około 150 mu, czyli niemal 10 ha. Następnego dnia zobaczył, że zamierają nie tylko chwasty, lecz także rośliny uprawne.
– Po oprysku następnego dnia siewki już nie przeżyły. Zginęły zarówno chwasty, jak i rośliny, przy czym rośliny zamierały jeszcze szybciej – relacjonował rolnik, którego wypowiedź przytoczyły zagraniczne media. Gospodarz oszacował straty na około 150 tys. juanów. To jednak jego własna ocena, a nie wynik niezależnej wyceny. Sprawę opisał również portal branżowy topagrar.com.
Co było nie tak z zaleceniem sztucznej inteligencji?
Problemem nie było to, że chatbot wymyślił nieistniejące substancje. Wszystkie wymienione składniki rzeczywiście wykorzystuje się w ochronie roślin. Błąd polegał na zaleceniu niewłaściwego rozwiązania dla konkretnej uprawy.
Według relacji chińskich mediów technicy, którzy obejrzeli pole, wskazali przede wszystkim na fomesafen. To herbicyd przeznaczony do zwalczania chwastów dwuliściennych w wybranych uprawach, między innymi w soi. Sezam również należy do roślin dwuliściennych, dlatego zastosowanie tej substancji na całej powierzchni mogło poważnie uszkodzić plantację.
Nie znamy jednak dokładnych preparatów, dawek ani warunków wykonania zabiegu. Media nie przedstawiły też wyników niezależnego badania pola. Fomesafen można więc wskazać jako najbardziej prawdopodobną przyczynę szkód, ale na podstawie dostępnych informacji nie da się dokładnie odtworzyć całego przebiegu zdarzenia.
Rolnik nie sprawdził zalecenia przed opryskiem
Odpowiedzialność nie leży wyłącznie po stronie aplikacji. Chatbot podał niebezpieczną rekomendację, ale rolnik przeniósł ją bezpośrednio z ekranu na całe pole. Nie sprawdził, czy wskazane środki można stosować w tej uprawie, nie porównał odpowiedzi z ich etykietami i nie skonsultował planu ze specjalistą.
Według „The Times of India” aplikacja wyświetlała ostrzeżenie, że informacje wygenerowane przez AI mogą zawierać błędy i wymagają weryfikacji. Wu nie zastosował się do tego komunikatu. Dopiero po zniszczeniu plantacji ponownie zapytał chatbota, co poszło nie tak. Wówczas aplikacja wskazała fomesafen jako możliwe źródło problemu.
„The Star” podaje, że przedstawiciel obsługi aplikacji przyznał, iż system nie ma własnej, niezależnej bazy wiedzy i korzysta z informacji dostępnych w internecie. Firma zapowiedziała sprawdzenie, z jakich źródeł pochodziła błędna odpowiedź. Nie ma natomiast potwierdzonych informacji o wypłacie odszkodowania dla rolnika.
Czy sztuczna inteligencja może doradzać rolnikom?
Sztuczna inteligencja potrafi szybko zebrać informacje, wyjaśnić trudne pojęcia, pomóc w prowadzeniu dokumentacji czy uporządkować dane z gospodarstwa. Problem zaczyna się wtedy, gdy użytkownik traktuje wygenerowaną odpowiedź jak gotowe zalecenie agrotechniczne.
Pokazuje to badanie opublikowane w 2024 roku w czasopiśmie „Scientific Reports”. Naukowcy porównali odpowiedzi ChatGPT i doradców na 32 pytania rolników dotyczące uprawy ryżu. Chatbot często udzielał obszernych i dobrze ocenianych odpowiedzi, ale mylił się między innymi przy terminach siewu, normach wysiewu oraz dawkach i terminach nawożenia.
Autorzy badania uznali, że takie narzędzie może wspierać doradców, lecz bez odpowiedniego dostosowania do lokalnych warunków nie powinno samodzielnie doradzać rolnikom.
W Polsce najpierw etykieta i rejestr MRiRW
W Polsce przed wykonaniem zabiegu trzeba sprawdzić, czy dany preparat znajduje się w aktualnym rejestrze środków ochrony roślin MRiRW. Ministerstwo udostępnia także wyszukiwarkę środków według upraw i zwalczanych agrofagów. Wyniki wyszukiwania należy następnie porównać z rejestrem oraz aktualną etykietą preparatu.
Etykieta określa między innymi uprawę, dawkę, termin zabiegu, maksymalną liczbę zastosowań i wymagane środki ostrożności. Jak przypomina Wojewódzki Inspektorat Ochrony Roślin i Nasiennictwa, użycie preparatu niezgodnie z etykietą stanowi wykroczenie. Zastosowanie go w uprawie, dla której nie ma rejestracji, może również prowadzić do sankcji administracyjnych.
Przypadek chińskiego rolnika pokazuje, że jedna przekonująco napisana odpowiedź może doprowadzić do kosztownego błędu. AI może podpowiadać, gdzie szukać informacji, ale nie zastępuje etykiety środka, aktualnego rejestru ani fachowej porady.
Oprac. Maria Khamiuk
