„Mama, patekau į avariją. Įvažiavau į kažkokius mafijozus, dabar manęs reikalauja susimokėti. Mama, aš labai bijau. Aš neturiu pinigų. Reikalauja penkių tūkstančių! Mama, ar gali sumokėti? Man labai baisu! MAMAAA!!!“.

Ir tai – TIKRAI jūsų vaiko balsas, ir dar skambutis iš jo numerio. Kokia būtų teisinga reakcija į tai?

Vienos vienintelės teisingos turbūt ir nėra, bet sveikiausia būtų reaguoti taip:

„Gerai, nusiramink, brangusis. Ir pasakyk slaptažodį“. Arba: „Gerai, nebijok, nusiramink. Ką mes visi valgėm, kai paskutinį kartą lankeisi pas mane?“

[[ge:lrytas:lrytas:29155585]][[ge:lrytas:lrytas:27531861]][[ge:lrytas:lrytas:26830283]][[ge:lrytas:lrytas:30264369]]

Skamba kaip absurdas? Deja, netolimoje ateityje tai gali tapti realybe. Nes mašininio mokymosi pagrindu (kas yra nerinkodarinis dirbinio intelekto pavadinimas) sukurtos giluminės klastotės tobulėja ir tobulės, ir jos grasina paliesti ne tik įžymybes, bet ir kiekvieną mūsų.

O apsimetimas svetimais telefonų numeriais (angl. spoofing) veikia jau ir šiandien. Tiesa, dabar didele dalimi tai veikia, nes tai nėra nelegalu (vadinamoji pilkoji zona), ir ryšio operatoriai jau imasi ar yra verčiami imtis priemonių nuo to apsisaugoti – bet technologių saugumo srityje jau ne vieną dešimtmetį vyksta nuolatinis katės ir pelės žaidimas, ir priežasčių, kodėl jis turėtų baigtis vienos ar kitos pusės pergale, nėra. Sugebės apriboti spoofinimą? Atras naują skylę telefono programinėje įrangoje ar jį užkrės, ir skambinama bus tikrai iš jūsų vaiko telefono, jam pačiam iš tiesų ramiai miegant, sėdint paskaitose ar kine.

Ar galbūt tai bus ir videoskambučiai.

Tad ateitis nusimato... įdomi.

Giluminės klastotės

Realybės padirbinėjimas nėra kažkoks labai jau naujas išradimas. Fotomanipuliacijos atsirado beveik iškart su fotografija – dar XIX a. – o netrukus persikėlė ir į kiną. Skaitmenoje tuo buvo pradėta domėtis paskutiniajame praėjusio amžiaus dešimtmetyje, kai ėmė plėtotis kompiuterinio matymo (angl. computer vision) tyrimų sritis.

O štai visuomenė su giluminėmis klastotėmis turėjo galimybę susipažinti 2017 m., kai socialinėje platformoje „Reddit“ vienas anonimiškas vartotojas pasidalino vienu tokiu vaizdu. Ir štai jau po poros metų – prieš 2020 m. JAV prezidento rinkimus – mokslininkai ėmė kalbėti, kad giluminės klastotės yra ne toks jau nekaltas reikalas, ir gali jei ne nulemti, tai bent padaryti įtaką rinkimų rezultatams.

Taip nenutiko. Dėl kelių priežasčių, iš kurių didelę dalį sudarė ir technologinės: DI reikalauja visai nemažai resursų – skaičiavimo galios, duomenų rinkinių. Bet technologijos tobulėja ir pinga, duomenų daugėja (eksponentiškai), tad kas buvo egzotika prieš kelerius metus, šiandien jau tampa kasdienybe.

Štai, pažiūrėkite į šį paveikslėlį. Pats jį pamačiau 2023m. spalio pradžioje, po HAMAS teroristų atakos Izraelyje ir Izraelio pradėtų karinių veiksmų. Mažas berniukas kruvinu veidu kažkur griuvėsiuose, visas purvinas ir su šone nukritusia kruvina moterimi. Šiurpu? Žiauru? O dabar suskaičiuokite berniuko pirštus.

[[ge:lrytas:lrytas:30703378]]

Šis paveikslėlis plito ir tada, plinta ir dabar – tiesa, dabar kiek kitokiame kontekste: kaip iliustracija to, kad vaizdų manipuliavimas gali tapti emocijų manipuliavimo įrankiu.

Tiesą sakant, technine prasme tai net nėra tai, ką galima būtų vadinti gilumine klastote: tai yra tiesiog kompiuteriu sugeneruotas vaizdas, o ne vieno asmens elementų perkėlimas į kitą. Panašius vaizdus būtų galima generuoti „Midjourney“ ar „Copilot / DALL-E-3“ – jei tik jie nebūtų apriboti nuo tam tikrų užklausų (angl. prompts), siekiant apsisaugoti nuo smurtinio turinio kūrimo (tačiau tai veikia ne visada efektyviai. Kartais per šalutines užklausas galima sėkmingai apeiti daugumą limitų – nes visas triukas yra tame, kad apribotas yra ne pats DI, o užklausos jam).

Patyrusi akis paveikslėlyje iškart pamatys daug ženklų, išduodančių kad tai yra ne fotografija, o kompiuteriu sugeneruotas turinys – pradedant apšvietimu ir baigiant tipiniais generinių vaizdų artefaktais, likusiais po generavimo. Bet pastaruosius pamatyti išmokstama peržiūrėjus (o dar geriau – sugeneravus) bent kelis šimtus DI sugeneruotų vaizdų. Tačiau tai – laikinas dalykas: DI generuotas turinys tobulės, ir atpažinti virtualybę nuo realybės reikės vis daugiau dėmesio, patirties bei įgūdžių.

Mama, padėk

Bet kaip minėjau, šis paveiksliukas nėra giluminė klastotė. O tinkamu (nors ir nekokybišku) giluminės klastotės pavyzdžiu galima prisiminti 2022 m. pradžią, kai buvo bandoma platinti Volodymyro Zelenskio vaizdo klastotė, kurioje Ukrainos prezidentas tariamai skelbia apie pasidavimą.

[[ge:lrytas:lrytas:30703293]]

Tiesą sakant, kad buvo bandoma platinti būtent tą giluminę klastotę, net keista – nes ji buvo tikrai abejotinos vizualinės kokybės, ir net visiškai nekompetentingam asmeniui turėjo kilti įtarimų, kad čia kažkas ne taip.

Panašų atvejį turėjome ir Lietuvoje, kai buvo bandyta platinti garso įrašą, kuriame Gabrielius Landsbergis atseit kalbasi su Palestinos užsienio reikalų ministro dėl pagalbos Palestinai, už kurią palestiniečiai atsimokėtų Lietuvos politikui parama jam kandidatuojant į Lietuvos prezidento postą. Informacinė ataka irgi nepavyko – greitai buvo demaskuota.

Kaip smagesnį giluminės klastotės pavyzdį (ir galimybių demonstraciją) galima prisiminti fiktyvią kompanijos „Balenciaga“ reklamą, kurioje šmėžuoja Lietuvos politikų veidai, ir skamba jų balsai – to paties G. Landsbergio, Viktorijos Čmilytės-Nielsen, Remigijaus Šimašiaus, Valdo Benkunsko ir Gintano Nausėdos. Ir nors vizualinė pusė yra pabrėžtinai netikroviška, verta atkreipti dėmesį, kad balsai ir kalbėjimo stilius čia skamba tikrai įtikinamai.

[[ge:lrytas:lrytas:30703294]]

Kai kurie startuoliai giriasi, kad jų kuriami DI produktai gali „išmokti“ balsą iš vienos minutės vaizdo įrašo. Jūsų vaikas mėgsta kurti „YouTube“ ar „TikTok“ filmukus, kuriuose ką nors pasakoja? Štai ir duomenys, iš kurių galima kurti tiek vizualinę, tiek garsinę giluminę klastotę.

Sakysite, fantazijos? Iš dalies taip – tokio „į avarijos patekusio“ vaiko skambutis mamai ar tėčiui kol yra hipotetinis dalykas, bet štai šių metų pradžioje nutiko kai kas rimčiau. Paskambino ne vaikas ir ne mamai, o kompanijos finansų direktorius savo pavaldiniui – ir prisakė pervesti 25 milijonus dolerių. Jis taip ir padarė.

Kaip paaiškėjo, vyras dalyvavo vaizdo pokalbyje su keliais, kaip jis manė, kitais darbuotojais – tačiau visi jie iš tikrųjų buvo giluminės klastotės, nurodė Honkongo policija. „(Daugelio asmenų vaizdo konferencijoje) paaiškėjo, kad visi, kuriuos jis matė, buvo netikri“, – visuomeniniam transliuotojui RTHK sakė vyresnysis inspektorius Baronas Chanas Shun-chingas.

Pasak inspektoriaus, darbuotojui kilo įtarimų po to, kai jis gavo žinutę, kurią tariamai parašė Jungtinėje Karalystėje įsikūrusios bendrovės vyriausiasis finansininkas. Iš pradžių darbuotojas įtarė, kad tai buvo apgaulingas elektroninis laiškas, nes jame buvo kalbama apie būtinybę atlikti slaptą sandorį. Tačiau po vaizdo skambučio darbuotojas persigalvojo, nes kiti dalyvavę žmonės atrodė ir skambėjo kaip kolegos, kuriuos jis atpažino, teigė Chanas.

Patikėjęs, kad visi kiti skambinusieji yra tikri, darbuotojas sutiko pervesti iš viso 200 mln. Honkongo dolerių – apie 25,6 mln. JAV dolerių. Su netikru finansų direktoriumi susijęs sukčiavimas buvo atskleistas tik tada, kai darbuotojas vėliau pasitikrino korporacijos pagrindinėje būstinėje.

Be to, pasak Honkongo policijos, taip pat mažiausiai 20 kartų giluminės klastotės buvo panaudotos siekiant apgauti veido atpažinimo programas, imituojant asmens tapatybės kortelėse pavaizduotus asmenis.

Tad ateina tikrai įdomūs laikai. Laikai, kai reikia su šeima sutarti ne tik susibūrimo vietas nelaimės atveju, bet ir slaptažodžius. Ir skaičiuoti žmonių pirštus, dantis, tikrinti akių žvilgsnius matomuose atvaizduose (šiose srityse DI daugiausia klysta). Ir taip, vyresnio amžiaus žmonėms bus sunku – tai matyti jau dabar. Bet galima prisiminti jau senstelėjusį interneto memą: neverta tikėti viskuo, ką perskaitote internete, teigia Abrahamas Lincolnas.

O gal neverta tikėti ir šiuo straipsniu? Gal jis irgi sugeneruotas dirbtiniu intelektu? Kas ten žino.

[[ge:lrytas:lrytas:30703375]]

Ateitis, kurioje nebegalėsime pasitikėti saviškių balsais ir skaičiuosime žmonių pirštus