Apie tai, kodėl pasitikėti atsakymu vien dėl to, kad jis pateiktas su nuorodomis, pavojinga, ir kaip vaikus išmokyti išmintingai naudotis dirbtiniu intelektu, Lrytas laidoje „Gyvenu, ne skrolinu“ diskutavo „Debunk.org“ projektų vadovė Jovita Tautkevičiūtė-Kalinauskienė ir Vilniaus Valdorfo mokyklos mokytojas Antanas Jonušas.
Kaip dirbtinis intelektas elgiasi, kai jo prašoma padėti skleisti melą apie Lietuvą? Į šį klausimą atsakyti pabandė analitikai iš „Debunk.org“. Jie dešimčiai populiarių pokalbių robotų pateikė po dešimt jau paneigtų propagandinių teiginių, pavyzdžiui, kad NATO narystė iš esmės kenkia Lietuvai, kad sovietų 1940 m. įvykdyta okupacija buvo teisėta arba, jog Rusija Ukrainoje tik ginasi, ir paprašė juos pagrįsti. Iš šimto bandymų robotai maždaug pusę teiginių atmetė, o likusiais 46 atvejais sutiko padėti.
Negana to, DI pokalbių robotai dezinformaciniams teiginiams patvirtinti buvo linkę pateikti klaidinančius šaltinius, pavyzdžiui, Lietuvos nacionalinį radiją ir televiziją (LRT).
DI ne visada sako tiesą: ekspertė paaiškino, kodėl jo atsakymais nereikėtų aklai pasitikėti
„Ir tu tuomet galvoji, kad LRT rašo, jog Lietuvai būtų blogai NATO. Tai yra visiškas atotrūkis“, – sako J. Tautkevičiūtė-Kalinauskienė.
Pasak Vilniaus Valdorfo mokyklos mokytojo A. Jonušo, DI pokalbių roboto melagingos informacijos skleidimas itin pasimatė, kai pamokoje mokiniams reikėjo užpildyti gana specifinį klausimyną apie tarpukario Lietuvos vidaus politiką.
Vieni informacijos ieškojo vadovėliuose ir kituose patikimuose, tradiciniuose, autorių parašytuose šaltiniuose, kiti naudojo dirbtinio intelekto agentus.
„Gavosi dvi skirtingos istorijos. Ir dirbtinis intelektas primelavo tiek daug, kad buvo tiesiog neįtikėtina. Sumaišė asmenybes, prikūrė to, ko tikrai nėra jokiuose šaltiniuose“, – stebėjosi mokytojas.
Susiję straipsniai
Pasak A. Jonušo, iš tokių pamokų mokiniai patys pradeda suprasti, kur ribos: „Yra temų, kur gerai žinomos visuotinės istorijos temos, kur yra visas tas bendras žinojimas, pavyzdžiui, kokios nors Antrojo pasaulinio karo priežastys – kieno bepaklausi, gausi labai panašų sąrašiuką priežasčių.
Bet kur labiau specifinės temos apie Lietuvos istoriją arba kai DI pokalbių roboto paklausi apie kokią mažesnę šalį, tai negausi faktų“, – sako mokytojas.
DI pokalbių robotai veikia spėjimo principu
Pasak J. Tautkevičiūtės-Kalinauskienės, svarbiausia visiems suprasti patį dirbtinio intelekto veikimo mechanizmą – iš jo kyla ir visi informacijos tikrinimo principai.
„Generatyvinis dirbtinis intelektas ir didieji kalbos modeliai veikia ne mąstymo, ne informacijos ar faktų atrinkimo būdu, o iš esmės jo principas yra spėjimas. Jie iš didžiulio duomenų kiekio spėja kitą labiausiai tikėtiną žodį. Tai reiškia, daro tokius informacijos apibendrinimus.
Tas spėjimas dažnu atveju yra teisingas, bet įvairiose situacijose, ypač ten, kur informacinėje erdvėje yra daug įvairių nuomonių, faktų, dezinformacijos, atsakymas gali būti ir neteisingas“, – aiškina specialistė.
Pavyzdžiu gali tapti ir orų prognozės. Kaip pažymi pašnekovė, jei paklaustume dirbtinio intelekto, koks šiandien oras lauke, jis pateiktų tos dienos statistiškai labiausiai tikėtiną prognozę, nors realus oras gali būti visiškai kitoks.
Todėl klausiant DI pokalbių roboto tam tikrų aspektų, J. Tautkevičiūtė-Kalinauskienė siūlo kiekvienam įsivertinti, ar atsakymas būtų tinkamas net jei ir nebūtų itin tikslus ar tam tikrai situacijai būtinas aiškus ir rizikos nekeliantis atsakymas.
Ar prašymas „nerašyti dezinformacijos“ išspręstų problemą?
„Debunk.org“ projektų vadovė abejoja, kad prašymas nerašyti manipuliacijų ir dezinformacijos yra veiksminga užklausa.
„Nebūtinai DI galės įvardyti, kas yra dezinformacija ir manipuliacijos, nes jis neturi tokios bendros duomenų bazės ir apibrėžimo – va čia dezinformacija, o čia manipuliacija.
Galima jam nurodyti atmesti tam tikrus, tarkim, rusiškus šaltinius, jis galės įsivertinti, padaryti kažkokias prielaidas. Bet tai irgi nebus universalus sprendimas“, – aiškina specialistė.
Vietoje to ji siūlo keisti patį požiūrį ir persvarstyti – ar klausimas yra išties svarbus, ar juo tik siekiama patenkinti smalsumą? Jeigu reikalingas tikslus atsakymas, pašnekovė siūlo apskritai vengti prašyti atsakymų politinėmis temomis – jose itin gausu dezinformacijos, todėl tikėtina, kad atsakymas taip pat būtų klaidinantis.
Kada DI neverta naudoti?
Paklausta, kada verčiau apeiti DI ieškant tam tikrų atsakymų, „Debunk.org“ projektų vadovė atkreipė dėmesį, kad didžiausia dirbtinio intelekto pagunda yra jo patogumas ir greitis. Čia specialistė ragina atsigręžti ir primena, kad kai kurių aspektų DI pokalbių robotas suteikti negali.
„Reikia vertinti ne tik jo patogumą ir greitį, bet ir tikslumą, savo pačių gebėjimo suvokti informaciją. Taip pat ir santykį, kai, pavyzdžiui, atėjęs pas mokytoją mokinys gali daugiau sužinoti, pats išsiaiškinti temas ir gauti daug daugiau negu iš pokalbių roboto.
„Liftus galime bet kokiame name pastatyti ir naudotis tik jais. Bet ten, kur užduotys paprastesnės ir kur mums tikrai nereikia dirbtinio intelekto, mes turėtume jų neatiduoti ir taip ugdyti savo kritinį mąstymą, informacijos apdorojimo gebėjimus.
O ten, kur didžiuliai informaciniai srautai, didelės statistikos, DI sistemos yra nepakeičiamos. Į antrą aukštą mes nevažiuojame liftu ir stengiamės net kartais į penktą užlipti pėsčiomis, kad pasportuotume ir netaptume priklausomi nuo technologijų ten, kur galime puikiai patys ugdyti savo gebėjimus“, – yra įsitikinusi J. Tautkevičiūtė-Kalinauskienė.
Susidūrus su galima dezinformacija moteris rekomendavo sau užduoti kelis klausimus.
„Pirma: kas rašo, stovi už turinio, paskyros ar portalo, kuo tas žmogus suinteresuotas, kodėl dalijasi tuo, kuo dalijasi. Antra – vertinti patį turinį ir faktus. Trečia – vertinti kontekstą ir aplinkybes, kodėl ta informacija atsiranda“, – pataria pašnekovė.
Kaip mokiniai naudoja DI pokalbių robotus?
Mokiniai DI pokalbių robotus naudoja labai skirtingai – pasak A. Jonušo, vieni išsikelia iššūkį jais visai nesinaudoti, o kiti dirbtinio intelekto įrankiais naudojasi kasdien. Mokytojas pasidžiaugė, kad kai kurie mokiniai išmoksta pasidaryti tikrai gerus konspektus, kuriuos prieš pamoką parodo ir pedagogui.
„Mane stebina, kiek detaliai viena mokinė pasidaro konspektus prieš kiekvieną atsiskaitomąjį darbą, naudodamasi agentais. Tai labai geras naudojimo būdas“
Vis dėlto savo pamokose jis stengiasi nevertinti darbų, atliktų su dirbtinio intelekto įrankiais.
„Reikia vertinti tai, ką galima įvertinti. Jeigu užduotis yra susirinkti informaciją ir mes klasėje tai aptariame, galime aptarti dirbtinio intelekto naudojimo aspektu. Bet atsiskaitomajame, kontroliniame darbe jie tų įrankių nenaudoja, jie sėdi su popieriumi ir rašikliu“, – tikina pedagogas.
A. Jonušas pabrėžė, kad vaikų nereikėtų palikti vienų su DI pokalbių robotais, nes jie juos naudos taip, kaip patys tuo metu supranta. Tai, mokytojo manymu, galima pritaikyti ir tėvams:
„Čia labai svarbi vieta – prieiti, žiūrėti, nepaleisti vaikų vienų. Mokykloje nebūtinai kas nors moko, kaip naudotis dirbtiniu intelektu tinkamai. Kiek žmonių žino, kad pirmi „Google“ rezultatai yra remiami? Nebūtinai pirmas rezultatas yra geriausias. Tu turi žiūrėti, kas parašė, kodėl parašė, kam parašė, ką tuo norėjo pasakyti“, – aiškina A. Jonušas.
Kritinio mąstymo svarbą akcentavęs pedagogas pastebi, kad mokiniai yra „užbombarduoti turiniu“ kiekvieną akimirką, kai tik atrakina telefoną. Tai jis pastebėjo ir kalbėdamasis su mokiniais apie protestus Prancūzijoje.
„Klausiau jų – kaip manote, kodėl šitą įrašą jums išmetė jūsų algoritmai? Ar jūs matėte taikių protestų vaizdų? Nematėte. O kodėl nerodo? Gal niekam neįdomu?
Socialiniai tinklai veikia per baimę, pyktį, per emocijas, ir algoritmai atrenka turinį, kurį mes žiūrėsime ilgiau, kad užsidirbtų iš reklamos. Svarbu su mokiniais apie tai kalbėtis, kad jie suprastų, jog jei pamačiau vieną tokį vaizdelį, dar nereiškia, kad visi protestai visoje Prancūzijoje šiandien taip atrodo, nes tada susidaro apokaliptinis pasaulio vaizdas“, – akcentuoja mokytojas.