Dirbtinio intelekto eroje negalime tikėti nei savo akimis, nei ausimis

Gana ilgai netikrų vaizdų aptikimo instrukcijos liepdavo atidžiai stebėti rankas, laikomus daiktus. Dirbtinio intelekto (DI) sugeneruotose nuotraukose pirštų skaičius, forma, pasiskirstymas akivaizdžiai atskleisdavo dirbtinę vaizdų prigimtį. Jei nuotraukoje būdavo teksto, jis atrodė netolygus, iškraipytomis raidėmis, netaisyklinga perspektyva.

Pirmieji DI sukurti žmonių veidai atrodė kraupiai, vėliau – pernelyg idealūs, nenatūraliai tobuli arba keliantys „šiurpiojo slėnio“ („uncanny valley“) įspūdį – žiūrintysis negalėdavo suprasti, kas ne taip, tačiau jausdavo, kad iš tikrųjų kažkas ne taip. Šiandienos DI modeliai šių praeities problemų nebeturi. Kuriami tikroviški, anatomiškai taisyklingi žmonių kūnai ir veidai.

Negana to, nėra sudėtinga modifikuoti tikras nuotraukas, išlaikyti personažo panašumą skirtinguose kadruose, kurti įtikinamus vaizdo montažus. Tokie tikrą gyvenimą imituojantys sintetiniai vaizdai, kurių dažniausias tikslas – suklaidinti stebėtoją, angliškai vadinami „deepfakes“ – sintetinėmis klastotėmis. Jie gali būti pateikiami ir kaip satyra, reklama ar menas. Dezinformacijos kontekste tai tampa pavojinga, kai medžiaga pateikiama kaip autentiška.

Nauja yra tai, kiek mažai pastangų reikia norint šiais įrankiais kurti ir keisti nuotraukas, garso ir vaizdo įrašus, kokia aukšta kokybe tai padaroma ir kaip sparčiai šis pokytis įvyko. Šis progresas leidžia dezinformaciją skleisti kur kas didesniu mastu ir taikytis net ir į pavienius asmenis. Anksčiau kokybiškai klastotei reikėjo daug pastangų ar finansų, o dabar ją juokais gali sukurti dažnas vaikas, neturintis specifinių techninių įgūdžių. Su šiuo DI progresu dažniausiai susiduriame per nuostabą. Gerai, jei ji šmaikšti ar maloni.

Įdėmiai įsižiūrėjus į paskubomis DI sugeneruotą atvaizdą galima jį atpažinti iš klišėmis tapusių širdelių tekste, stilizuotų užrašų „ranka“, pernelyg nušlifuoto bendro įspūdžio ir kompozicijos. Kokybiškai atliktame darbe šių įkalčių nebus palikta ir atskirti „tikrą“ nuo „dirbtinio“ išties sunku.

Puikių to pavyzdžių lietuvių kalba galima rasti naujos kartos profesionalo – DI meno technologo Tomo Sakro tinklalapyje sakro.lt. Vaizdo įrašų galerijoje matyti, kaip skiriasi naujausių ir prieš metus kurtų „deepfake“ komedijų ir reklamų kokybė. Tokio lygio vaizdo efektams anksčiau reikėdavo holivudinių biudžetų.

Laimei, sukčiai dažniausiai yra tingūs ir pernelyg nesistengia. Vaizdo įrašuose kol kas sunku nepalikti nelogiškų vietų, ypač antrame plane. Tai vienas į kitą susiliejantys objektai, susidvejinantys šešėliai, nepastovios daiktų formos, užrašai. Tačiau sparčiai besikeičiančioje DI įrankių ekosistemoje šie įkalčiai ilgainiui pradings net ir iš skubotai sugeneruotų vaizdų.

Dar sunkiau, jei visa nuotrauka ar vaizdo įrašas tikras ir dirbtiniu intelektu pakeista tik jo dalis – veidas, logotipas, užrašas ar fono detalės. Pavyzdžiui, tarp protesto dalyvių įterptas ten nebuvęs žmogus arba pakeistas tekstas jo laikomame transparante, į dantis įkišta cigaretė ar pridėta juvelyrikos. Autentiško vaizdo prasmė ir žinutė tokiomis nedidelėmis kokybiškomis modifikacijomis gali būti visiškai pakeista.

Tyrimų apžvalga rodo, kad žmonės „deepfake“ atpažįsta vos 55 proc. atvejų – lyg metant monetą. Reikėtų vis mažiau kliautis savo akimis ir pastabumu.

2021 m. tuomet dar tik kylantiems iššūkiams atremti „Adobe“, „Microsoft“, BBC, „Intel“, „Arm“ ir „Truepic“ įkūrė C2PA („Coalition for Content Provenance and Authenticity“) – turinio kilmės ir autentiškumo koaliciją. Vėliau prie iniciatyvos prisijungė ir „Google“, „Meta“ („Facebook“, „Instagram“), „Sony“, „OpenAI“ („ChatGPT“) ir kitos kompanijos.

Siekiama sukurti atvirą techninį standartą, leidžiantį patikrinti skaitmeninio turinio kilmę ir jo istoriją, – kas sukūrė, kokie pakeitimai atlikti ir ar su informacija susieti duomenys nebuvo pakeisti. Standartas skirtas nuotraukoms, vaizdo ir garso įrašams bei dokumentams.

Šiuo standartu remiasi „Content Credentials“ – turinio kilmės metaduomenys. „Content Credentials“ naudojančioje nuotraukoje gali būti nurodyta, kad ji nufotografuota tam tikro modelio fotoaparatu, vėliau apkarpyta ir paredaguota konkrečia programa. Jei viename redagavimo etapų naudotas dirbtinis intelektas, šis žingsnis taip pat nurodomas.

Kiekvienas veiksmas saugiu kriptografiniu parašu susiejamas su pačiu turiniu. Jeigu atlikta neužfiksuotų pakeitimų, skaitmeninis parašas nebesutaps. Taip galima patikimai sekti failo kilmę, redagavimo istoriją, patikrinti, kad niekas slapta nebuvo pakeista.

Šiuo metu nuotraukas ir vaizdo įrašus pasirašyti geba naujausi „Google“ „Pixel“ telefonai ir kai kurie naujausi „Leica“, „Canon“ ir „Sony“ profesionalių fotoaparatų modeliai. Pirmasis toks fotoaparatas pasirodė prieš trejus metus, pirmieji telefonai – prieš metus.

Šią technologiją ilgainiui palaikys vis daugiau telefonų, fotoaparatų ir kūrybinių programų.

„Apple“ telefonuose, pradedant nuo šį rudenį pasirodžiusio „iPhone 18 Pro“, naudojamas kitas būdas, įrodantis, kad nuotrauka nemodifikuota, – „Apple Reference Image“. Ši skaitmeniniu parašu patvirtinama technologija parodo, kad nuotrauka atitinka tai, ką užfiksavo kameros jutiklis.

Naudotojui siūloma palyginti realiai užfiksuotą vaizdą – savotišką saugų skaitmeninį negatyvą – su turimos nuotraukos vaizdu ir įsitikinti, kad tarp jų nėra skirtumų. Patikrinti galima tik „iPhone“ „Photos“ programėlėje.

Kol kas „Reference Image“ taikoma tik nuotraukoms, o fotografuoti „Reference“ režimu Europos Sąjungos šalyse laikinai negalima.

Gali būti, kad ateityje tokių kilmės ir autentiškumo įrodymų vis dažniau reikės nuotraukoms, naudojamoms asmens tapatybei patvirtinti, fiksuojant draudžiamuosius atvejus ir kitose teisiškai reikšmingose situacijose.

„Content Credentials“ ir „Apple Reference Image“ ypač svarbios profesionalams – žurnalistams ir tyrėjams. Svarbu, kad būtų galima patikimai įrodyti, jog tai, kas užfiksuota, iš tikrųjų vyko prieš objektyvą.

Kol šias technologijas naudojantys įrenginiai taps norma, praeis nemažai laiko. Iki tol esame pereinamajame laikotarpyje, kai DI modifikuotus vaizdus atskirti vis sunkiau, o būdų patikimai įrodyti, kad nuotrauka ar vaizdo įrašas atitinka tai, kas realiai įvyko, turime nedaug.

Taip pat verta paminėti gausybę įvairių „DI tikrinimo“ paslaugų, kurios pačios naudoja dirbtinį intelektą nustatyti, ar turinys – nuotrauka, vaizdo bei garso įrašas ar tekstas – sukurtas naudojant generatyvųjį DI. Tokie įrankiai gali būti naudingi, tačiau jų rezultatai ne visuomet patikimi ir iš esmės jie kelia savotišką „katės ir pelės“ problemą – tobulėjant DI tobulėja ir aptikimo būdai, ir būdai tą aptikimą apeiti. Tokių įrankių rezultatus galima vertinti tik su atsargiu skeptiškumu, kaip vieną iš įrodymų, o ne kaip galutinį atsakymą.

Didieji vaizdų generavimo įrankiai – „ChatGPT“, „Gemini“, „Claude“ ir kiti – sugeneruotas nuotraukas jau pasirašo skaitmeniniu „Content Credentials“ parašu. „Facebook“ ir „Instagram“ tokius įkeltus vaizdus automatiškai pažymi „AI info“ žyme.

Tačiau „Content Credentials“ informaciją nesunku pašalinti, tad naudojami ir žmogui nepastebimi pačiame vaizde įterpti „vandens ženklai“ („SynthID“ ir panašios technologijos). Jie lieka net sumažinus ar apkarpius DI sugeneruotą turinį. Socialiniai tinklai DI turinį identifikuoja ir pagal šias žymes.

„SynthID“ ženklą gali patikrinti kiekvienas – įkėlus failą į „Google Gemini“ (gemini.google.com) galima paklausti, ar jis sukurtas „Google“ DI. Įkėlus į „OpenAI Verify“ (openai.com/verify) – ar sukurtas „ChatGPT“.

Tokie žymėjimo būdai – apsauga nuo menkai techniškai išprususių piktavalių, bandančių apgauti ar sukčiauti lengvai sugeneruotu „deepfake“. Pavyzdžiui, bandančių atgauti pinigus iš elektroninės parduotuvės už neva brokuotą prekę („Ei, „ChatGPT“, sukurk nuotrauką, kurioje šie marškiniai atrodo suplyšę!“).

„SynthID“ ir panašūs vandens ženklai reikšmingai nestabdo tų, kurie dezinformaciją kuria profesionaliai. Jie randa būdų šiems ženklams pašalinti arba medžiagą generuoja nuosava aparatūra, kuri jokių žymėjimų nededa.

Kurti įtikinamus „deepfake“ vaizdus ir vaizdo įrašus savo kompiuteryje jau įmanoma turint techninių žinių ir galingą įrangą.

Nuo šių metų rugpjūčio visoje Europos Sąjungoje (ES) pradėjo galioti nauji DI skaidrumo reikalavimai. ES DI akto 50 straipsnis numato pareigą žymėti „deepfake“ turinį – DI sukurtus ar pakeistus vaizdus, vaizdo įrašus ir garsą, kurie gali būti palaikyti autentiškais arba tikrais. Taip pat reikia atskleisti, kad tekstas sugeneruotas DI, jei jis skirtas informuoti visuomenę viešojo intereso klausimais, jo nėra peržiūrėjęs žmogus ir už jį niekas neprisiima redakcinės atsakomybės.

Vartotojus privalu informuoti, kai tiesiogiai bendraujama su DI sistema.

Europos Komisija siekia apsaugoti ES piliečius nuo situacijų, kai DI turinys ar bendravimas toks realistiškas, kad žmogui gali pasirodyti tikras.

Už šios pareigos nepaisymą gali būti taikomos didelės administracinės baudos – net iki 15 mln. eurų arba iki 3 proc. metinės apyvartos.

Sąmoningai ir piktybiškai platinamai dezinformacijai šios taisyklės poveikio greičiausiai neturės, todėl DI žymėjimas pirmiausia yra skaidrumo priemonė, o ne techninė apsauga nuo dezinformacijos.

Tobulėjant DI sistemoms informaciniai pavojai gali būti subtilesni nei paprastai padirbta TV laida ar netikras politiko pareiškimas. JAV atliktas „deepfake“ efektyvumo tyrimas parodė, kad jie žmones įtikina ne ką labiau nei įprasta tekstinė ar garso dezinformacija.

Tyrimą vykdę mokslininkai pabrėžė, kad net autentiški vaizdo įrašai kartais laikomi suklastotais, ypač kai juose nepalankiai vaizduojami mėgstami politikai.

Žmonės tiesiog linkę tikėti istorijomis, kurios sutampa su jų nuomone ar politinėmis pažiūromis.

Internete vis daugiau turinio generuojama dirbtiniu intelektu. Ekspertų kuriamas turinys palyginti labai brangus, todėl su DI kurtais mokymais, aiškinimais, pristatymais ir net juokais susiduriame vis dažniau. Šių metų tyrimas, analizavęs 2022–2025 m. interneto publikacijas, nustatė, kad iki 2025 m. vidurio apie 35 proc. naujai paskelbtų svetainių buvo sukurtos dirbtinio intelekto arba jam padedant.

Vis dažniau šiuos procesus valdo ne žmonės, o DI – generuoja temas ir klausimus, kuria sudėtingus internetinius naujienų portalus, įtraukaus turinio „TikTok“, „Instagram“ ir „Facebook“ paskyras, veikiančias be žmonių priežiūros tiek komerciniais, reklamos, tiek dezinformacijos ir propagandos tikslais.

Vadinamoji mirusio interneto teorija (angl. „the dead internet theory“) teigia, kad ilgainiui internetas bus perpildytas dirbtinio intelekto sukurto turinio, kurį vartos, komentuos ir tobulins kiti dirbtinio intelekto robotai.

Žmogus čia gali būti apsuptas jo išankstinius įsitikinimus ir pomėgius atitinkančių naratyvų, kuriais pačiam abejoti sudėtinga ir nėra poreikio. Tai savotiškas algoritminis informacinis rūkas, kuriame nieko imituoti nereikia, nes ir taip sekami daugiausia dirbtiniai turinio kūrėjai, žiūrima tik tai, kas patinka.

„Yra du būdai būti apgautam, – rašė XIX a. danų filosofas Sørenas Kierkegaardas. – Pirmasis – patikėti tuo, kas nėra tiesa, antrasis – atsisakyti tikėti tuo, kas yra tiesa.“

Jei šiuo informacinei erdvei sudėtingu periodu imsime abejoti absoliučiai viskuo, laimės būtent klastotojai. To jie dažnai ir siekia.

Ironiška, bet suabejojus informacijos patikimumu, vaizdo įrašo ar nuotraukos tikrumu greitai tai patikrinti geriausiai padeda būtent DI. „ChatGPT“ ir „Google Gemini“ gerai atpažįsta „Content Credentials“ ir „SynthID“ (žr. infografiką žemiau), mašininiu greičiu naudojasi paieška, skaito tinklalapius, randa pirminius šaltinius. Tačiau ir jie gali klysti, todėl pokalbių robotas tinka ne visuomet.

Greta techninių įrankių būtina atsigręžti į žurnalistų ir teisininkų gerai žinomus metodus: tikrinti šaltinį, nepasikliauti vienu liudijimu, ieškoti motyvo. Kiekvienas turėtume klausti: „Kodėl man tai rodoma? Ar šis šaltinis patikimas? Ar naujiena skelbiama ir kitur? Ar žaidžiama mano emocijomis?“ Kritinis mąstymas ir budrumas išgelbės dažniau nei trūkumų paieška „deepfake“ atvaizde.

– Nuo 2026 m. rugpjūčio 2 d. RRT yra gavusi pavienių kreipimųsi, susijusių su reikalavimais atskleisti DI sugeneruotą turinį. Kiekvienas atvejis vertinamas individualiai, atsižvelgiant į konkrečias aplinkybes ir DI akto nuostatas.

– DI akto 50 straipsnio reikalavimai pradėti taikyti palyginti neseniai, todėl šiuo metu pagrindinis RRT tikslas yra padėti rinkos dalyviams suprasti ir tinkamai įgyvendinti naujas pareigas. Praktikoje tai reiškia metodinės medžiagos rengimą, organizacijų ir fizinių asmenų konsultavimą, atsakymus į paklausimus, informacinius renginius ir paaiškinimus dėl konkrečių situacijų. Tokia priežiūros kryptis atitinka RRT poziciją, jog pradedant įgyvendinti naujus reikalavimus svarbu ne tik kontroliuoti, bet ir užtikrinti, kad atitinkami veiklos vykdytojai suprastų, kada ir kaip turi būti atskleidžiamas DI naudojimas.

Prevencinis požiūris nereiškia, kad pažeidimai nebus vertinami. RRT stebi situaciją rinkoje ir esant poreikiui taikys DI akte ir nacionaliniuose teisės aktuose numatytas priežiūros priemones.

– Europos Komisija yra paskelbusi piktogramas (pateikiamos žemiau. – Red.), kuriomis rekomenduojama ženklinti DI sukurtą ar reikšmingai pakeistą turinį. Pagal DI akto 50 straipsnį svarbiausia, kad informacija būtų aiški, suprantama ir pateikta taip, kad vartotojai galėtų atpažinti tokį turinį.

RRT šiuo metu rengia praktines gaires dėl DI akto 50 straipsnio reikalavimų įgyvendinimo, skirtas tiek DI sistemų tiekėjams, tiek jų naudotojams. Jose bus pateikti praktiniai pavyzdžiai, paaiškinimai ir rekomendacijos dėl skaidrumo, atskleidimo ir techninio žymėjimo pareigų. Vėliau gairės bus persvarstomos ir tikslinamos atsižvelgiant į Europos Komisijos išaiškinimus, praktikos kodeksus ir besiformuojančią taikymo praktiką.

Papildomai pažymėtina, kad DI akto tikslas nėra riboti DI naudojimą. Jo tikslas yra užtikrinti, kad žmonės galėtų suprasti, kada susiduria su DI sukurta ar reikšmingai pakeista informacija.

Kuo lengviau atpažįstamas toks turinys, tuo mažesnė rizika, kad jis bus panaudotas dezinformacijai, manipuliacijoms ar sukčiavimui.

Piktogramos, kuriomis Europos Sąjungoje nuo rugpjūčio 2 d. žymimas tikroviškas dirbtinio intelekto sukurtas turinys: