DI pokalbių robotai, kad ir kaip draugiškai atsakinėtų, nėra būtinai tiesą sakančios mašinos. Jie apmokomi naudodami didelius duomenų rinkinius, kuriuos (dažniausiai) sukūrė žmonės. Jie išmoksta, kaip žodžiai ir sakiniai dera tarpusavyje, o tada sugeneruoja žodžius tokia tvarka, kokia, algoritmo nuomone, labiausiai patiks vartotojui.
Kartais tai sutampa su tiesa – bet ne visada. Pavyzdžiui, neseniai atliktas tarptautinis tyrimas parodė, kad 45 procentai DI pateiktų atsakymų turėjo bent vieną reikšmingą trūkumą, o 20 procentų jų buvo „haliucinacijos“.
Tai kelia susirūpinimą, nes kai kurie tyrimai rodo, kad vienas iš septynių žmonių yra naudojęsis DI, siekdamas gauti patarimų sveikatos klausimais, o kiti tyrimai rodo, kad pažeidžiamiems, prastai anglų kalbą mokantiems arba mažiau išsilavinusiems vartotojams dažnai pateikiama mažiau tiksli informacija, nei kitiems.
Dirbtinis intelektas žemės ūkyje: pirmieji suklusti turėtų smulkių bei vidutinių ūkių savininkai
Dažnai tai gali neturėti didelių pasekmių. Pavyzdžiui, jei juokais klausiate „kiek akmenų turėčiau suvalgyti?“, tikriausiai esate pakankamai protingas, kad suprastumėte – nereikia pasitikėti, kai sistema rekomenduoja „mažiausiai vieną“. Tačiau kartais, atsižvelgiant į tai, kiek žmonių susiduria su dirbtiniu intelektu savo noru arba dėl tokių technologijų bendrovių kaip „Google“ spaudimo, šie atsakymai gali turėti neigiamų pasekmių realiame gyvenime.
Bet grįžtant prie žemės ūkio, remiantis šaltiniais Kinijos žemyninėje dalyje, kaip praneša Taivano naujienų portalas „CTWant“, 67 metų ūkininkas iš Čužou Kinijoje, per kelis mėnesius tapo priklausomas nuo dirbtinio intelekto patarimų. Pranešama, kad vyras naudojo nenurodytą pokalbių robotą, kad suderintų žemės ūkio darbus, taip pat gautų patarimų dėl trąšų. Nors iš pradžių jis skeptiškai vertino patarimus, galiausiai ėmė pasitikėti atsakymais.
Susiję straipsniai
Ir liepos mėnesį jis, kaip pranešama, sumokėjo didelę kainą už pasitikėjimą pokalbių botu – kai paprašė patarimo, kaip kovoti su kenkėjais savo sezamo pasėliuose. Kaip rašo „International Business Times“, pokalbių botas rekomendavo flupirimetaliną ir fomesafeną, sumaišytus su tiametoksazinu ir metilo druska, kuriuos ūkininkas vėliau purškė ant savo sezamo pasėlių – nepasitaręs su žmogumi.
Po to vyras dar kartą kreipėsi į pokalbių botą, norėdamas išsiaiškinti, kur galėtų būti problema. Šįkart robotas buvo naudingesnis – jis nustatė, kad fomesafenas yra herbicidas, dažniausiai naudojamas plačialapėms piktžolėms naikinti, ypač sojos pasėliuose. Kadangi sezamas yra plačialapė rūšis, pokalbių robotas informavo ūkininką (vėlgi neturėdamas jokio pagrindo teigti, kad tai tiesa), jog netinka naudoti herbicidą, skirtą plačialapėms rūšims.
Tai toli gražu ne pirmoji dirbtinio intelekto klaida, turėjusi realių pasekmių – ir tikrai ne paskutinė. Kaip pavyzdį, kuris pasiekė recenzavimo etapą, galima paminėti vieną atvejo aprašymą, kuriame dokumentuojamas atvejis, kai vyrui buvo rekomenduota natrio chloridą pakeisti natrio bromidu, o rezultatai, kaip ir buvo galima numatyti, pasirodė katastrofiški, rašo „IFL Science“.